This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:将不受支持的 OD 模型(yolov8)移植到 TDA4VM

Guru**** 1826070 points
Other Parts Discussed in Thread: TDA4VM
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1379139/tda4vm-porting-unsupported-od-model-yolov8-to-tda4vm

器件型号:TDA4VM

工具与软件:

为了将 YOLOv8等不受支持的模型移植到 TDA4VM SOC、我已经对 YOLOv5_TI_lite 和 YOLOX_s_lite 等受支持的模型进行了各种研究和建模。 根据我的发现、我得出结论、在 YOLOv8架构中、需要将激活函数更改为"Relu"、而不是"Sigmoid"。 此外、我已将 maxpool 层配置为内核形状3。

但是、在尝试使用 EdgeAI 基准进行编译时、我在推理过程中遇到一些工件和问题、导致精度为"0"。

随附了对架构所做的更改和遇到的编译问题。 请建议成功编译模型所需的进一步步骤。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ramaseshan:

    对于迟迟未回答您的问题、我深表歉意。 目前、这对您来说是一个阻止问题吗?

    如果是、您是否可以将编译日志作为文本文件附加、以便我更清楚地看到错误?  

    此致!

    Asha

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Asha Bhandarkar:

    我在编译过程中遇到了一些问题。

    如前所述、我已对 YOLOv8架构进行修改、使用"Relu"激活函数而不是"Sigmoid"。 此外、我已将 max-pool 图层配置为内核形状3。

    请查找我在编译中遇到的错误的随附日志。 您可以看到、使用编译的工件进行推理时、精度为0。

    请查看日志并帮助解决错误。

    e2e.ti.com/.../run_5F00_import_2800_compilation_2900_.txt

    e2e.ti.com/.../run_5F00_inference_2800_after-compilation_2900_.txt

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ramaseshan:

    我在您的编译日志中看到错误、因此我不希望您有成功的推理。

    查看第一个错误:

    错误:图层123、/model.22/Slice_1:/model.22/Slice_1_output_0在网络中缺少输入、无法按主题排序
    输入0:/model.22/dfl/Reshape_1_output_0、dataId=308

    这是我们需要进一步调试的内容。 如果您遇到很多编译问题、我建议将 edgeai-tidl-tools 用于 python OSRT 方法进行导入、这将使您能够在调整为在 TIDL 框架中受支持时更好地调试模型。 此处提供更多详细信息。我认为这还将在编译选项方面为您提供更大的灵活性-例如将用户指定的层委派给 ARM 内核。  

    如果可以共享模型和模型工件、这将很有帮助、以便我们在最后进一步了解  

    此致!

    Asha

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Asha:

    感谢您的建议。 我将尝试使用 TIDL 工具编译模型、然后我们自动返回给您。 同时、请您回顾一下我在此处附上的使用 Benchmark 生成的模型工件吗?

    e2e.ti.com/.../yolov8_5F00_model_5F00_artifacts.zip

    此致、
    Ramaseshan

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ramaseshan:  

    感谢您提供模型工件。 看一下、输出 SVG 和 ONNX 模型似乎并不一致(SVG 显示多个输出)。 我可能有兴趣使用 edgeai_tidl_tools 路径进一步调试、并想看看我们是否通过这种方法获得更多信息。 我建议附加与之前相同的输出文件、并在 DEBUG_LEVEL = 2的情况下提供编译(有关更详细的编译日志)

    此致!

    Asha

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Asha:

    我曾尝试使用 TIDL 工具编译模型、但在第四次迭代后、校准停止、并显示一条错误消息。 我将调试级别设置为2、供您参考。 我已经附加了 TIDL 工具编译日志。 请选中它们。

    e2e.ti.com/.../tidl_2D00_compilation_2D00_logs.txt

    此致!  
    Ramaseshan

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ramaseshan:

    Asha 将在本周剩余时间内休假、下周早些时候至中旬随时与您联系。

    此致

    Suman

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Suman:

    谢谢您让我知道。 下周我会跟 Asha 联系。

    此致、  
    Ramaseshan

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Asha:

    希望大家回来、请查看我之前在同一个论坛中发表的消息、我在该论坛中分享了 TIDL 工具面临的错误。

    此致、
    Ramaseshan