[参考译文] PROCESSOR-SDK-AM62A：在芯片上运行 AI 模型。

Tommy、您好！

很高兴听到您正在使用 AM62A、我们很高兴为您提供帮助。 请参阅我在下面的评论/答案：

此芯片运行 Aragon OS 并支持最多2个 TOPS。

我们不支持 AM62A 的 Aragon OS。 请在下面的回答中详细了解我们的 SDK 产品。

Unknown 说：

我制作了一个用于将2D 图像转换为3D 图像的模型。 然后、我将模型转换为 ONNX (16位)文件、并尝试将 ONNX 模型运行到 AM62A 板、但是与其他板(0.4秒)(Nano Jetson Xavier)相比、TI 板上模型的2D 图像(9秒)处理速度较慢。 我的问题是：是否需要将 ONNX 文件转换为*。bin 文件？ 您是否可以拥有任何用于将 ONNX 文件转换为 bin 文件以便在 TI AM62A SK EMV 板上运行的文档？  [报价]

是的、为了使用硬件 AI 加速器、必须使用我们的 tidl-tools 来编译模型。 这些工具将生成必要的二进制文件、以将模型卸载到 AI 加速器。 这些工具可从以下 git 中心库获得： https://github.com/TexasInstruments/edgeai-tidl-tools。首先、按照 main 自述文件中的步骤在主机 PC 中设置该工具、然后我建议您从这里提供的示例开始： https://github.com/TexasInstruments/edgeai-tidl-tools/tree/master/examples/osrt_python

如果您直接使用 ONNX 文件、该文件会在 A53 ARM 内核上运行、并反映9秒延迟的原因。

[quote userid="642488" url="~/support/processors-group/processors/f/processors-forum/1474742/processor-sdk-am62a-running-ai-model-on-the-chip 我可以将这个盾用于 AM62A 板(CLICKHERE)吗。

这是我们文档的较旧版本。 相反、我建议按照我在上面的答案中分享的 tidl-tools 中的步骤进行操作。 此外、有关编译模型的更高级主题、您可以在此处参考此详细文档： https://github.com/TexasInstruments/edgeai-tidl-tools/tree/master/docs

Unknown 说：

如果我可以使用上面的 guideline。  我是否可以将行数用于其他复杂 AI 模型(LSTM、变压器...)？ 请给我提供一些更详细的文档。  [报价]

您可以使用上面提供的 tidl-tools 和文档。 我们支持一些变压器层。 有关支持层的列表、请参阅此文档： https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/supported_ops_rts_versions.md

此致、

Qutaiba