[参考译文] PROCESSOR-SDK-AM69A：切换到使用 tidlcpp 库时的问题

尊敬的 Hung：

我不确定 tidlcpp 是什么以及为什么要使用它。  如果您希望更少地测试 TIDL 应用程序、请使用 器件上/opt/tidl_test 中的 TI_DEVICE_ARMv8_TEST_dl_algo_host_RT.out。  这将删除所有变量。   

我不能仅提供将有效的未知模型的配置、但这里是一个推理配置示例。

inFileFormat = 0
debugTraceLevel = 0
writeTraceLevel = 0
netBinFile =/opt/test_model/tidl_net.bin
ioConfigFile =/opt/test_model/tidl_io_buff1.bin
outData =“/opt/test_model/test_model_out.bin “
inData =“/opt/test_model/image.bmp “
numFrames = 1

假设上述文件在/opt/tidl_test 目录中名为 infer_evm.txt：

root@AM69-SK：/opt/tidl_test。/TI_DEVICE_ARMv8_test_dl_algo_host_RT.out s：infer_evm.txt

正在处理配置文件#0：infer_evm.txt
应用程序：初始化...！！
525686.721685 s：内存：初始化...！！
525686.721735 s：内存：初始化的 DMA 堆 (FD=5)！！！
525686.721868 s：内存：初始化...完成！！！
525686.721886 s：ipc: init ...！！
525686.757416 s：ipc:初始化...完成！！！
remote_service:初始化...！!</s>！
remote_service:初始化...完成！！！
525686.765319 s：GTC 频率= 200MHz
应用程序：初始化...完成！！
525686.765423 s：vx_zone_info：全局启用 vx_zone_error
525686.765437 s：vx_zone_info：全局启用 vx_zone_warning
525686.765445 s：vx_zone_info：全局启用 vx_zone_info
525686.766365 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-0
525686.766511 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-1
525686.766600 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-2
525686.766686 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-3
525686.766695 s：vx_zone_info：[tivxInitLocal:126]初始化完成！！！
525686.766706 s：vx_zone_info：全局禁用 vx_zone_info

# network_init_time = 62.54（以 ms 为单位、c7x @1GHz）
---------------------------- TIDL 过程带有目标数据流

# network_execution_time = 4.13 (ms, c7x @1GHz),其中 ddr_pandwidth（读取+写入）= 0.00, 0.00, 0.00（兆字节/帧）... … 应用程序：Deinit ...！！
REMOTE_SERVICE：取消初始化...！！！
REMOTE_SERVICE：取消初始化...完成！！！
525686.837667 s : IPC: Deinit ..！
525686.838680 s : IPC: DeInit ..完成！！
525686.838717 s：MEM：Deinit ...！！
525686.838731 s：DDR_SHARED_MEM：Alloc's：7 alloc's、其值为 4592504 字节
525686.838742 s：DDR_SHARED_MEM：FREE's：7 FREE's of 4592504 bytes
525686.838752 s：DDR_SHARED_MEM：open 的：0 个 0 字节的分配
525686.838765 s：内存：Deinit ...完成！！！
应用程序：Deinit ...完成！！

此致、

Chris

1. 之前、我成功测试了TI_DEVICE_armv8_test_dl_algo_host_rt目标。 现在、我需要使用 TIDL Runtime 从源代码中运行模型。 我正在采取以下步骤：

   1. 已克隆存储库：

      git clone github.com/.../edgeai-tidl-tools.git
      

   2. 已签出分支10_01_00_02。

   3. 在中添加了我的代码/opt/edgeai-tidl-tools/examples/tidlrt_cpp、以构建运行 CMC ResNet-101 模型的应用程序。

   但是、当我重新构建并执行示例时、会遇到随附日志中显示的错误。 您能否检查附加的源文件是否有任何问题、重新编译示例并验证其是否正确运行？

   提前感谢您提供 assistance.e2e.ti.com/.../log_5F00_eror-_2800_1_2900_.txte2e.ti.com/.../4747.resnet.zip

尊敬的 Hung：

我重新构建了应用、 然后 复制了 相同的错误。  这意味着问题出在 CPP 应用中。  这可能是一个版本/库/env 问题。   您能否提供您正在运行的 Env？  此外、您是在 PC 还是 EVM 上构建 tidlrt_ResNet 吗？

使用标准实用程序和 infer_evm.txt：

inFileFormat = 0
debugTraceLevel = 0
writeTraceLevel = 0
netBinFile =/opt/arrow/out/tidl_net.bin
ioConfigFile =/opt/arrow/out/tidl_io_buff1.bin
outData =“/opt/arrow/out/test_model_out.bin “
inData =“/opt/test_model/jet.bmp “
numFrames = 1

./TI_DEVICE_ARMv8_TEST_dl_algo_host_RT.out s：infer_evm.txt

正在处理配置文件#0：infer_evm.txt
应用程序：初始化...！！
795260.849938 s：内存：初始化...！！
795260.849988 s：MEM：初始化的 DMA 堆 (FD=5)！！！
795260.850126 s：内存：初始化...完成！！
795260.850143 s：ipc: init ...！！
795260.880532 s：ipc:初始化...完成！！！
remote_service:初始化...！!</s>！
remote_service:初始化...完成！！！
795260.887912 s：GTC 频率= 200MHz
应用程序：初始化...完成！！
795260.887990 s：vx_zone_info：全局启用 vx_zone_error
795260.888000 s：vx_zone_info：全局启用 vx_zone_warning
795260.888011 s：vx_zone_info：全局启用 vx_zone_info
795260.888994 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-0
795260.889153 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-1
795260.889252 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-2
795260.889349 s：vx_zone_info：[tivxPlatformCreateTargetId：134]添加了目标 MPU-3
795260.889362 s：vx_zone_info：[tivxInitLocal:126]初始化完成！！！
795260.889376 s：vx_zone_info：全局禁用 vx_zone_info

# network_init_time = 668.89（以 ms 为单位、c7x @1GHz）
---------------------------- TIDL 过程带有目标数据流

# network_execution_time = 332.95（单位为 ms, c7x @1GHz）,其中 ddr_pandwidth（读+写）= 0.00, 0.00, 0.00（兆字节/帧）... … 应用程序：Deinit ...！！
REMOTE_SERVICE：取消初始化...！！！
REMOTE_SERVICE：取消初始化...完成！！！
795261.862947 s：IPC: Deinit ...！！
795261.863855 s : IPC: DeInit ...完成！！
795261.863877 s：MEM：Deinit ...！！
795261.863892 s：DDR_SHARED_MEM：Alloc's：7 alloc's、共 68044312 字节
795261.863902 s：ddr_shared_mem：free's：7 free's of 68044312 bytes
795261.863910 s：DDR_SHARED_MEM：open 的：0 个 0 字节的分配
795261.863923 s：内存：Deinit ...已完成！！！
应用程序：Deinit ...完成！！
Root@AM69-SK：/opt/tidl_test

您好、Chris、

我正在使用 edgeai-tidl-tools 版本 10_01_00_02、构建在 EVM 上运行。

此致、

和

您好！

我的问题是编译在哪里执行（即二进制文件的编译位置）？  EVM 或 PC 上？

此致、

Chris

您好、Chris、

我直接在 EVM 上编译了二进制文件、也在这里运行。

此致、
和

您好、Chris、

您好、Chris、

1.按照您的说明,我们可以运行我们的定制训练模型。 但是、仍然有一个问题：为什么我们必须重新启动器件才能运行定制训练的模型？ 如果我们不重新启动、仍然会出现与之前相同的错误。 您能帮助我们分析问题所在吗？

2.平均时间:332.367 毫秒太高—我们的目标是大约 10 毫秒。 在 QCM6490 上、该模型可实现 10.22ms 的推理时间。
我们尝试按照以下指南中的建议调整 msmcSizeKB、enable_persiste_WT_ALLOC 和 numBatch、但结果没有改善。 您能建议我们如何进一步优化吗？
https://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-jacinto7/08_00_00_12/exports/docs/tidl_j7_08_00_00_10/ti_dl/docs/user_guide_html/md_tidl_fsg_steps_to_debug_performance.html 

3.该日志是否意味着 MSMC SRAM 溢出并使用 DDR？ 是否有任何方法可以解决此问题？：
81267.489672 s：DDR_SHARED_MEM：Alloc's：7 alloc's、共 68044312 字节
81267.489680 s：ddr_shared_mem：free's：7 free's of 68044312 bytes

Kính thưa Chris Tsongas ,

Tôi đã tạo một chủ đề mới：  PROCESSOR-SDK-AM69A：“Optimization iResnet101“  

Cảm ơn！

尊敬的 Khoa：

我已将新的 E2E 分配给团队中的一个人。 我将继续并关闭此主题、因为它似乎已被回答。 如果没有、请重新打开。

此致、

Christina

很抱歉、我错误地勾选了“解决方案“、因此我将创建一个新主题： PROCESSOR-SDK-AM69A：“Optimization Resnet101“  

尊敬的 Chris：

当我使用 SDK 版本 10_01 从 TI 网站刷写发布映像并首次运行测试时、遇到了相同的错误。 但是、重新引导设备后、错误就消失了

您好、Chris