This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] AM62A7:将 Yolo V8 和 V11 Nano TfLite 转换为 TIDL 时出现问题

Guru**** 2422630 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1535361/am62a7-problems-to-convert-yolo-v8-and-v11-nano-tflite-to-tidl

器件型号:AM62A7


工具/软件:

我 有一个 AM62A EVK 板 、我试图使用它来执行 Yolo V8 和 V11 模型。

使用 edge-ai-tools 存储库(标记 10_01_04_00 )、我设法转换了此处列出的 TI 示例模型:

https://github.com/TexasInstruments/edgeai-tidl-tools/blob/10_01_04_00/examples/osrt_python/model_configs.py#L277

使用“tflrt_delegen.py"我“我试图转换一个 Yolo v8/11 Nano 模型,这是成功的;然而, 我注意到转换有这个消息:

-对于 YoloV8 Nano:

[TIDL Import]【解析器】不受支持:所有张量维度都必须大于零。 对于 tensor model_10/dim.math.multiply_242/mul/y_6、id 1 - tf 4 是 0 -[tidl_import_common_model_ch
Eck.cpp、2303]
[TIDL 导入]【解析器】警告:
****************************************************************************
*网络编译器返回错误或未执行*
*此型号只能在 PC/主机仿真模式下使用*
*预计不会在 TARGET/EVM 上工作*
****************************************************************************

-对于 YoloV11 Nano:

[TIDL Import]【解析器】不受支持:所有张量维度都必须大于零。 对于 tensor model_23/dimath.multis_340/mul/y_6、id 1 - tf 4 为 0 -[tidl_import_common_model_ch
Eck.cpp、2303]
[TIDL 导入]【解析器】警告:
****************************************************************************
*网络编译器返回错误或未执行*
*此型号只能在 PC/主机仿真模式下使用*
*预计不会在 TARGET/EVM 上工作*
****************************************************************************

我注意到输出文件夹中没有“allowedNode.txt"。“。

这些模型是否应该与您的 TfLite 学员一起使用?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好 Caio、

    使用 edge-ai-tools 存储库 (tag 10_01_04_00 )、我成功转换了此处列出的 TI 示例模型:

    似乎您的工具设置正确、并且在经过 TI 验证的模型上运行良好

    [引述 userid=“660943" url="“ url="~“~/support/processors-group/processors/f/processors-forum/1535361/am62a7-problems-to-convert-yolo-v8-and-v11-nano-tflite-to-tidl *网络编译器返回错误或未执行*
    *此型号只能在 PC/主机仿真模式下使用*
    *预计不会在 TARGET/EVM 上工作* [/报价]

    模型导入未完成、因此产生的工件预计不能按原样工作。 此日志告诉我导入 不 成功

    不受支持的层应该标记为 Arm/CPU 执行、而不是 C7x 加速器。 但是、网络编译器/内存规划器(整体模型导入的最后阶段)出错。 这两件事是否相互关联并不清楚,但维的零肯定不是典型的。 我建议对此进行调查  

    • 如果未使用尺寸、则应“挤出“、而不是使用零  
    • 如果您愿意这样做、则可以共享模型文件(权重也可以随机分配)  

    这里的日志看起来是修剪过的--你能提供完整的日志吗? 我们可能需要通过将 DEBUG_LEVEL 参数设置为 1 或 2 来增加调试详细程度。 如果您使用的是 edgeai-tidl-tools、则可以在 examples/osrt_python/common_utils.py 中全局设置此项。  

    我会注意到我们可以导入 YOLOv8、但我不确定我们是否支持 YOLOv11 OD 头。  我们已经针对 ONNX 格式验证了这一点

    BR、
    Reese

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    感谢您的 答复。

    我已将 edge-ai-tools 更新为标签“ 11_00_07_00 “并在您的一些参考模型上再次测试、以验证我的设置。

    我收到与之前类似的错误:

    [TIDL 导入]【解析器】不受支持:所有输入张量尺寸都必须大于零。 对于 tensor model_10/8669、id 3 - Dim 3 为–1 -[tidl_import_common_model_check.cpp、2304]
    [TIDL Import]错误:无效的输入张量维度、中止--[tidl_import_core.cpp、2747]
    [TIDL Import]错误:网络优化失败 — 函数中失败:TIDL_runtimesOptimizeNet --[tidl_runtims_import_common.cpp、1392]

    使用调试级别 2 和 YoloV8 Nano TfLite 文件检查完整日志:

    https://drive.google.com/drive/folders/18SJAOFC1qVTOygIgnGvnHycA262l5SfS?usp=drive_link

    ——

    如果我要回滚到、请告诉我  10_01_04_00 但就我所能看到的、 标签  11_00_07_00 AM62A EVK 也应该支持。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Caio:

    对不起,我只能给出一个快速的回应,因为它是 7 月 4 日在美国假期,我将离开办公室几天. 我将在下周中回复更多详细信息。  

    我的短期建议是在导致问题的特定层上尝试使用“deny_list"功能“功能[0]。  某些图层导致问题的维度似乎存在(请注意,现在有问题的图层与以前的日志不同)

    我知道我是否应该回滚  10_01_04_00 但就我所能看到的、 标签  11_00_07_00 应由 AM62A EVK 提供支持、如上所示

    此新版本应该没问题。 AM62A 没有完整的 11.0 SDK 版本、但奇数 bugfix 版本(例如 07)与之前的 SDK 兼容。 11_00_07_00 适用于具有 SDK 10.1 的 AM62A、但您需要在 EVM 上运行脚本[1]以更新一些库/固件、使其与此更新版本兼容。  

    [0] https://github.com/TexasInstruments/edgeai-tidl-tools/tree/master/examples/osrt_python#options-to-enable-control-on-layer-level-delegation-to-ti-dsparm 

    [1] https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/update_target.sh 

    BR、
    Reese

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Caio:

    我正在查看您的网络和您共享的日志。 由于层配置不受支持[0]、似乎有多个子图。 错误的原因不是立即从日志中显而易见的,但我有一种感觉,一些网络的维度没有被正确解析。

    您在第二个子图中似乎失败(标题 subgray_389、它应与 model-artists/yolov8n_160/aters/tempDir 路径中的某些命名文件相对应)。 我想在该 tempDir 中看到 SVG 文件。 我想知道一些张量尺寸是否被错误地解析--如果打开 SVG、你可以看到这些张量形状

    • 图形可视化的相关文档[1]  

     [0] https://github.com/TexasInstruments/edgeai-tidl-tools/blob/11_00_07_00/docs/supported_ops_rts_versions.md

    [1]https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_osr_debug.md#graph-visualization 

    BR、
    Reese