[参考译文] PROCESSOR-SDK-AM69A：优化 iResnet101

我在 TIDLRT 上运行、但模型中没有任何更改、您可以在此处查看更多信息： PROCESSOR-SDK-AM69A：切换到使用 tidlcpp 库时出现的问题 。  

抱歉、我错误地勾选了“解决方案“、因此我将创建一个新主题： e2e.ti.com/.../processor-sdk-am69a-optimization-resnet101

尊敬的 Khoa：

我将关闭新 TT、并继续讨论这一问题、以尽量减少混淆。 我们正在重新创建您的问题。 Rohit 将更新他的状态。

此致、

Christina

您好、Khoa、

我希望在 AM69A 器件上运行 Resnet101 模型。 我们的开源运行时目前不支持针对您的模型进行编译、因此 TIDLRT 在此处是可行的。

您能共享编译步骤吗？ 更具体地说、您的导入和推理 txt 文件以及用于在 SOC 上运行的相应工件。 这将有助于诊断问题。

此致、

Rohit

尊敬的 Tung：

我曾尝试在 10_01_04 上运行模型、但似乎无法正常运行。 您能否提供有关用于在 EVM 上运行的可执行文件的更多信息？ 具体来说、我注意到您有一个名为./tidlrt_ResNet 的可执行文件。 当我们在/opt/tidl_test 中使用./TI_DEVICE_ARMv8_test_dl_algo_host_rt.out 时、模型无法正确执行。

如果您能提供任何见解来帮助我们确定是否需要将此问题上报给我们的开发团队、我将不胜感激。

此致、
Rohit

嗨、Rohit、  

之前、我成功测试了 TI_DEVICE_armv8_test_dl_algo_host_rt 目标。 现在、我需要使用 TIDL Runtime 从源代码中运行模型。 我正在采取以下步骤：

1. 已克隆存储库：

   git clone github.com/.../edgeai-tidl-tools.git
   

2. 已签出分支 10_01_00_02。

3. 在中添加了我的代码 /opt/edgeai-tidl-tools/examples/tidlrt_cpp 、以构建运行 CMC ResNet-101 模型的应用程序。
   e2e.ti.com/.../7652.resnet.zip
   您可以在此处查看更多信息： e2e.ti.com/.../processor-sdk-am69a-issue-when-switching-to-using-the-tidlcpp-library

您好 Rohit Rao ,我们正在等待您的答复

调试代码问题不在我们的范围之内。 如果您对如何实施我们的框架有任何具体问题、我可以提供帮助。

您好、Khoa、

明白了、我正在为您寻找一种潜在的解决方案。 请给我一些时间来解决您的问题并制定解决方案。

此致、

Rohit

你好 Rohit Rao 

我们已重新实施了 TIDL 版本 11_00_06_00 、
固件版本是 11_00_00_00 。
推理时间已显著缩短 36ms 、这是可以接受的。

不过、 准确度极差—目前只有 1% 、
而原始 ONNX 模型的精度为 99.8% 。

您能否提出此问题的可能原因以及我们如何解决？