This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VH-Q1:ONNX 模型、使用 TIDL 导入器失败、tidl_quant_stats_tool.out 无法收集动态范围。 请查看 quant stats 日志。 该模型将在目标上出现故障。

Guru**** 2332530 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1514994/tda4vh-q1-onnx-model-use-tidl-importer-fail-tidl_quant_stats_tool-out-fails-to-collect-dynamic-range-please-look-into-quant-stats-log-this-model-will-get-fault-on-target

器件型号:TDA4VH-Q1
Thread 中讨论的其他器件:TDA4VH

工具/软件:

硬件:TDA4VH 评估板

导入 PC: Ubuntu 22.04 DDR>16GB EMMC>100GB  

SDK 版本:
ti-processor-sdk-rtos-j784s4-evm-09_01_00_06.tar.gz

下载地址: www.ti.com.cn/.../09.01.00.06

中文:
ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/testvecs/output/pld/tidl_import_pld.txt.perf_sim_config.txt 1601 0 2.
网络缓冲区:
buf (0)、offset (0)、size (142464)
Buf (1)、偏移(7151936)、大小(6499008)
Buf (2)、offset (142464)、size (544960)
buf (3)、偏移(687424)、大小(5448280)
/home/vilon/run/gxt/ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/utils/tidlModelGraphviz/out/tidl_graphVisualizer.out ./../test/testvecs/output/pld/tidl_net_pld.bin
/home/vilon/run/gxt/ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/utils/tidlModelDump/out/tidl_dump.out -mode ./../test/testvecs/output/pld/tidl_net_pld.bin -io ./../test/testvecs/output/pld/tidl_io_pld_1.bin -perfsim -o ./../test/testvecs/output/pld/tidl_net_pld.bin.txt
**************************************************************
** TIDL 模型检查器**
**************************************************************
建议:[TIDL_Deconv2DLayer] ConvTranspose_45如果可能、请更改为 Upsample/Resize。 升级样本/调整大小将更高效。
建议:[TIDL_Deconv2DLayer] ConvTranspose_48如果可能、请更改为 Upsample/Resize。 升级样本/调整大小将更高效。
建议:[TIDL_Deconv2DLayer] ConvTranspose_58如果可能、请更改为 Upsample/Resize。 升级样本/调整大小将更高效。
建议:[TIDL_Deconv2DLayer] ConvTranspose_64如果可能、请更改为 Upsample/Resize。 升级样本/调整大小将更高效。
建议:[TIDL_Deconv2DLayer] ConvTranspose_67如果可能、请更改为 Upsample/Resize。 升级样本/调整大小将更高效。
TIDL ALLOWLISTING 层检查:TIDL_E_quant_stats_not_available] tidl_quant_stats_tool.out 无法收集动态范围。 请查看 quant stats 日志。 该模型将在目标上出现故障。
**************************************************************
**5警告1错误**
**************************************************************

日志:

/cfs-file/__key/communityserver-discussions-components-files/791/pld_5F00_out_5F00_logs.rar

我已将本地转换目录压缩到 c7x-mma-tidl-patch-pld.rar。 解压缩后、它可以合并到 ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/utils/tidlModelImport 中。 然后、通过执行 import_pld_models.sh 来执行 PLd 转换、您应该能够重现问题。
谢谢你。

模型配置和脚本如下所示:

/cfs-file/__key/communityserver-discussions-components-files/791/c7x_2D00_mma_2D00_tidl_2D00_patch_2D00_pld.rar

 pld_20240417.onnx 已成功转换相同的模型文件和配置  tidl_j721s2_08_06_00_10  并已应用于大规模生产项目。 我们还比较了两者之间的模型转换工程  tidl_j721s2_08_06_00_10  和  ti-processor-sdk-rtos-j784s4-evm-09_01_00_06.tar.gz 和发现了显著的差异、如下所示:


您能否向我们提供一个在09_01_00_06上成功转换的 ONNX 模型的示例、例如 YOLOv8? 谢谢你。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、

    Yolo8直到10.0才受支持、因此某些层在9.01中将不起作用。  您可能需要使用拒绝列表来正确导入它。

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、我遵循了您的建议并添加了配置denyList = ConvTranspose。 修改后的配置如下所示:
    e2e.ti.com/.../tidl_5F00_import_5F00_pld.txt

    但是、运行配置后、错误仍然与之前相同。 以下是日志:
    e2e.ti.com/.../pld_5F00_0515.log

    1. 是否有其他方法可以尝试?
    2. 您能否提供用于测试的示例模型?

    谢谢!

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Chris、

    对上述问题是否有任何答复? 客户需要在本周内解决此问题。 谢谢!

    BR、

    Bengi

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Bengi:

    我认为仅层名是不够的。  我已经使用了 ONNX 文件中的整个图层名称(包括末尾的:0)、这样可以正常工作。  请检查您的编译并查看该图层实际上已在导入中排除。

    请发送: /home/vilon/run/TDA4/ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/testvecs/output/pld/tidl_import_pld.txt.qunat_stats_config.txt 和量化日志文件。

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    亲爱的克里斯

       在这里、您可以在导入 PLD 和 od 模型时看到 out 文件。

       /cfs-file/__key/communityserver-discussions-components-files/791/5621.output.zip

     

    日志:

    /cfs-file/__key/communityserver-discussions-components-files/791/pld_5F00_out_5F00_logs.rar

    我已将本地转换目录压缩到 c7x-mma-tidl-patch-pld.rar。 解压缩后、您可以将补丁文件合并到 ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/utils/tidlModelImport 中。 然后、通过执行 import_pld_models.sh 来执行 PLd 转换、您应该能够重现问题。
    谢谢你。

    模型配置和脚本如下所示:

    /cfs-file/__key/communityserver-discussions-components-files/791/c7x_2D00_mma_2D00_tidl_2D00_patch_2D00_pld.rar

    /ti-processor-sdk-rtos-j784s4-evm-09_01_00_06/c7x-mma-tidl/ti_dl/utils/tidlModelImport/

    import_pld_models.sh --用于 pld import shell、  

    import_od_models.sh --用于导入  

    非常感谢!

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Chris

       对不起,我仍然不太理解这句话的含义。 您能再解释一下吗?
    "我已经使用了 ONNX 文件的整个图层名称(包括末尾的:0)、这样才能正常工作。"
    在结尾处包括:0 ---??
    谢谢你。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    模型图层的名称如下:

    /bev_encoder/GridSample

    或