This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-J722S:如何检查

Guru**** 2455560 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1485855/processor-sdk-j722s-how-to-check-the

器件型号:PROCESSOR-SDK-J722S

工具与软件:

嗨、团队:

我使用中的示例代码 TIDL 10.00.08.00 edgeai-tidl-tools/examples()以使用 ONNX 文件运行推理。

我想知道如何在推理期间检查每个层的执行时间?

[运行推理步骤]

  • cd edgeai-tidl-tools
  • mkdir build && CD build
  • cmake -DFLAG2=2–DTARGET_CPU=ARM ../examples
  • 生成-j
  • ./bin/Release/ort_main -f /opt/model_zoo /article/ -i /opt/edgeai-test-data/images/0003.jpg --计数10.

感谢您的帮助。

此致、

Ken

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ken:

    首先、将调试级别设置为4。  这将为您提供逐层执行时间、并生成 int/float bin 文件、以便在/tmp 中进行比较。   如果要进行测试、我还建议使用 osrt_python/ort、因为这样更容易使用、并且不必构建任何东西(这也可能会在结果中增加增量)。

    要使用 osrt_python:

    1. cd to examples/osrt_python/ort

    2、VI . modle_configs.py

    3.将模型部分复制到您的模型的新模型部分(如果您使用的是标准模型、则不需要)

    4. python3 ./ onnxrt_ep.py -c -m  (用于编译)然后执行  python3 ./onnxrt_ep.py -m (运行推理)

    此致、

    Chris