This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] AM69:TI AM69 电路板上的 ONNX 模型存在问题:编译期间内核停止

Guru**** 2418880 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1534518/am69-issue-with-onnx-model-on-ti-am69-board-kernel-stops-during-compilation

器件型号:AM69

工具/软件:

大家好:

我是 Texas Instruments AM69 电路板的新手、我尝试在它上运行 ONNX 模型(SAM—细分任意模型)。

我已经按照步骤将模型导出和量化为 ONNX 格式、并将其加载到电路板上。 但是、当我尝试编译或运行使用此模型的内核时、执行会停止而没有清除错误消息。

我对此没有太多的经验、因此非常感谢在以下方面提供任何指导:

  • 如何验证 ONNX 模型是否与 TI AM69 电路板兼容。

  • 如果有额外的步骤来准备内核以使用量化 ONNX 模型。

  • 可以帮助我了解内核停止原因的工具或日志。

  • 适用于该环境的简单示例或初学者文档。

提前感谢您的任何帮助或建议。 任何简单的解释都是非常欢迎的。

此致。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Aday:

    此处的设置说明: https://github.com/TexasInstruments/edgeai-tidl-tools

    首先,如果您对此不熟悉,请尝试一个简单的模型,如 RESNET 模型。  例如、设置 edgeai-tidl-tools 后、CD 到  edgeai-tidl-tools/examples/osrt_python/ort 并运行:

    python3 ./onnxrt_ep.py -c -m cl-ort-resnet18-v1.

    这将下载并编译 resnet18 模型。  然后通过以下方式运行模型:

    python3 ./ onnxrt_ep.py -m cl-ort-resnet18-v1.

    如果以上两项都起作用、则可以进行设置。  我建议先使用 OSRT 方法。  基本上,从同一目录 vi ../ model_configs.py 复制其中一个配置(例如 cl-ort-resnet18-v1) 并为您的模型命名。  您只需为粗测试设置 model_path。  将其显式设置为模型的路径。   然后编译模型。

    如果一切正常、您的模型应该编译。  这将在 edgai-tidl-tools/model-artifacts 中创建工件、并将 onnx 文件的一个版本复制到 edgai-tidl-tools/models/public。   

    然后可以通过 python3 ./ onnxrt_ep.py -m 运行模型  

    这全部位于主机和仿真上。  在 EVM 上运行模型

    从 edgai-tidl-tools/model-artifacts/复制文件 输入电压。  例如 scp -r edgai-tidl-tools/model-artifacts/cl-ort-resnet18-v1 root@ :/opt

    要在设备上运行、请执行以下操作:

    SSH 连接到您的设备、CD 连接到/opt/tidl_test

    创建一个 名为 infer_evm.txt 的文件(您可以调用任何文件,在本例中,我使用 generic_evm.txt):

    debugTraceLevel = 0
    writeTraceLevel = 0
    netBinFile =“/opt/cl-ort-resnet18-v1 /tidl_net.bin“
    ioConfigFile =“/opt/cl-ort-resnet18-v1 /tidl_io_buff1.bin“
    outData =“/opt/cl-ort-resnet18-v1 /test_model_out_evm.bin“
    inFileFormat = 0
    inData =“/opt/test_model/jet.bmp “
    numFrames = 1

    最后、从/opt/tidl_test 目录中、 按以下方式在 EVM 上运行:

    ./TI_DEVICE_ARMv8_TEST_dl_algo_host_RT.out s:infer_evm.txt

    这只是起点。  请查看 https://github.com/TexasInstruments/edgeai-tidl-tools/tree/master/docs 中的文档

    此致、

    Chris