This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-J784S4:在具有 TIDL 的 AM69A 上、大型 Tensor 发生故障时的 TopK

Guru**** 2460850 points
Other Parts Discussed in Thread: AM69A

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1548552/processor-sdk-j784s4-topk-on-large-tensor-failing-on-am69a-with-tidl

部件号:PROCESSOR-SDK-J784S4
主题中讨论的其他器件:AM69A

工具/软件:

您好:

我正在为设计 ONNX 模型 AM69A 实现 我需要执行一个 Topk 在一个大张量上运行。

我将 RTOS SDK10_01_00_04 与 TIDL Tools 版本 10_01_00_01 搭配使用。

  • 输入张量 float32[1,1,358400,1]
  • Attributes: k=300and axis=2
  • The output should be 
    • values with shape float32[1,1,300,1]
    • indices with shape int64[1,1,300,1]

对于 DSP 实现、我将遵循TIDL_refTopK和中使用的相同方法TIDL_sliceRefProcess

当我在电路板上运行模型时,它失败了,并且在推理过程中出现错误,我认为它与张量的大小有关:

PS: 运行一个具有输入张量形状的较小模型时所发生的情况 float32[1,1,100,1]和 setK = 30、一切都按预期运行。 模型的执行没有错误,我成功地获得了正确的 TopK 值和索引。 这证实了该逻辑对较小的输入尺寸有效。

您可以在此处找到模型: e2e.ti.com/.../5305.topk_5F00_model.zip

您能帮助我解决我的问题吗?

希望提供任何指导、示例或建议。

此致

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ghassen:

    已找到此 topK 问题、并且正在进行修补。 它很可能会在下一个可反向移植版本 (11.1) 中得到修复。 一旦我再次检查并获取信息、我将更新您。

    此致、

    Christina

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好 Christina、

    感谢您的答复。 您在此处有任何其他更新吗?

    有关补丁的更多信息、何时发布?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    据我所知、这份报告应在本月底公布。 我会在得到确认后更新您。

    此致、

    Christina

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ghassen:  

    我能够确认该版本将在本月的最后一周(8 月)之前与 TopK 修复一起发布。 感谢您耐心等待我们为本次发布做好准备。  

    此致、

    Christina