This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] J784S4XEVM:具有 int32 输入的自定义运算符无法编译[SDK 11.2]

Guru**** 2866460 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1626218/j784s4xevm-custom-operators-with-int32-input-fail-to-compile-sdk-11-2

器件型号: J784S4XEVM

ti-processor-sdk-rtos-j784s4-evm-11_02_00_06在编译包含自定义运算符的 ONNX 模型时,我正在处理并遇到编译问题,该模型包含第一个输入为类型的运算符int32。 在这种情况下、编译失败、并出现不受支持的数据类型错误、这似乎表明int32自定义运算符可能不支持该错误。

========================== [Memory Planning Started] ==========================


------------------------- Network Compiler Traces ------------------------------
Wrong data type for layer input 9, 30
Error : Error Code = <ERR_UNSUPPORTED_DATA_TYPE>
[TIDL Import]  FATAL ERROR: Network Compiler failed to execute - Memory planning failed with return code - 65280 -- [tidl_import_core.cpp, 1068]
[TIDL Import] Aborting

一个示例场景是TopK将索引输出馈送到自定义Tile运算符中时。 附加了重现此场景的模型以及生成的工件。  topk_tile.zip 

请告知我们此情况是否是 SDK 11.2 中的已知限制。 如果是、未来的 SDK 11.2 版本是否会支持 IT?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好 、Brijesh Jadav、

    您能就这个主题为我们提供支持吗?

    此致、

    Mahmoud

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Mohmoud:  

    让我检查一下、几天后就会回复您。

    此致、

    Brijesh

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、
    根据 TIDL 团队的意见、自定义层不支持 32 位输入。 有未来的计划,但没有确认。
    此致

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、您是否可以共享此模型的自定义实施文件?

    此致

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    你好、Vaibhav 、

    感谢您的答复。

    为了避免在公共线程中共享敏感细节,我们使用自定义 Cast 运算符复制了相同的方案。 您可以在此处找到模型、关联工件和自定义实现:

     e2e.ti.com/.../custom_5F00_cast.zipe2e.ti.com/.../topk_5F00_cast_5F00_model.zip  

    对于此场景、我们正在测试一种可能的权变措施来继续使用该模型。 但是、在另一种情况下、我们会遇到相同的限制。

    当使用包含带有 int64 输入的 Cast 节点(自定义运算符)的测试模型时、问题仍然存在。 从可视化来看、int64 输入似乎自动量化为 int32、这最终导致在模型编译过程中出现错误:

    我附上了用于重现此问题的模型: e2e.ti.com/.../cast_5F00_model.zip

    您能否查看并告诉我们、是否有解决这两个问题的推荐权变措施或最佳实践?

    此致

    Ghassen

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、如果编译在此配置中不起作用、那么您从哪个配置附加了 SVG 可视化效果?

    此致

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    你好、Vaibhav、

    这些工件是在失败前的编译过程中生成的。

    此致

    Ghassen