This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] SK-AM62A-LP:定制模型

Guru**** 2482225 points
Other Parts Discussed in Thread: SK-AM62A-LP

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1447730/sk-am62a-lp-custom-model

器件型号:SK-AM62A-LP

工具与软件:

大家好、团队成员:

请指导我完成在 SK-AM62A-LP 上部署自定义模型的过程吗? 该模型已经构建、我想知道如何将其放在 AM62A 板上。 应在配置文件中进行哪些更改? 如何连接2-3个流水线?

我浏览了常见问题解答、但似乎找不到合适的资源。  

谢谢!

此致、

Marvin

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好!

    是的、我们有有关此主题的文档和指南。 Github 上的 edgeai-tidl-tools 存储库中提供了许多自定义模型的用户指南和文档页面。

    定制型号请查看此处: https://github.com/TexasInstruments/edgeai-tidl-tools?tab=readme-ov-file#compile-and-benchmark-custom-model 

    如果您还有问题、请告诉我! 有关将实时视频源(文件、摄像机、互联网流)整合在一起的端到端成像管线、请参阅边缘 AI SDK 文档: https://software-dl.ti.com/processor-sdk-linux/esd/AM62AX/10_00_00/exports/edgeai-docs/common/edgeai_dataflows.html 

    BR、
    Reese

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Reese:

    谢谢、这些资源展示了如何运行单个模型或并行运行几个模型。 我们是否有一些资源解释了如何逐个使用模型?

    此致、

    Marvin

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Marvn:

    是的、这些资源展示了如何运行模型、并且支持并行运行多个模型(用于编译或推理)。 它们不会按顺序显示运行模型、这主要是因为这样做时没有什么特别的考虑。

    对于序列中的多个模型、将使用相同的 API。 只要模型权重适合器件的 RAM/LPDDR4、模型的初始化或调用顺序就没有限制。

    运行多个模型;  

    • 使用首选 API (例如 ONNX Runtime)初始化每个模型
    • 数量
      • 根据需要预处理映像
      • 使用 DL 运行时 API (例如 ONNX Runtime)将映像作为输入传递给模型
      • 如果一个模型的输出直接馈入下一个模型、则从运行时检索该输出、应用任何进一步的处理/转换、然后传递到下一个模型

    我们的示例中不直接包含多序列模型用例。 由开发人员来实现。 我们的 Model Zoo 不包含需要以这种方式进行顺序操作的模型(例如、2级物体检测的区域建议网络->分类网络)。 相反、我们支持一次性检测模型。  

    BR、
    Reese