This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] J784S4XEVM:从独立车间操作员卸载到 TIDL 的输出错误 (SDK 11.2)

Guru**** 2805935 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1621508/j784s4xevm-incorrect-output-from-standalone-floor-operator-offload-to-tidl-sdk-11-2

器件型号:J784S4XEVM

您好:

我正在使用 TIDL 使用 ONNX 模型、因此在尝试将独立的现场操作员卸载到 TIDL 时、会遇到一个问题。  

我将使用中的默认实现  SDK 11.2

模型编译成功并在编译检查期间生成正确的输出。

但是、在对主机和目标进行推理期间、现场操作员会生成大约等于的结果 99%不正确 输出相比、我们需要更精确的校准。

之前在中发现了此问题 SDK 10.1 的文档 使用输入形状为的地板操作员时 [24576、1] 。 指定 SDK 11.2 测试、我使用了 输入形状相同、问题仍然存在。

 您可以在此处找到测试期间使用的模型: floor_model.zip 

请分析此问题并告知此行为是已知限制、精度相关问题还是潜在错误?

感谢您的支持。

此致、

Ghassen

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ghassen:

    由于输入和输出数据处会发生量化和去量化、因此平面运营商可能与实际输出不匹配。 由于 TILD 将 32 位浮点输入转换为 8 或 16 位处理、并转换回 float32、因此会与实际的下限输出存在偏差。

    此致、
    Gokul

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ghassen:

    [报价 userid=“605537" url="“ url="~“~/support/processors-group/processors/f/processors-forum/1621508/j784s4xevm-incorrect-output-from-standalone-floor-operator-offload-to-tidl-sdk-11-2/6264884

    这些值似乎不是的结果 量化损耗 、但似乎表明了 计算问题

    是否预计会出现这种行为?

    [/报价]

    是的、对于地板操作员、16 位量化似乎有问题、我已经尝试了、8 位可以正常工作(您也可以验证)、16 位给出了错误的结果。

    最新的 edgeai-tidl-tools 版本中没有发生问题、请结账到分支 rel_11_02、这将指向 11_02_05_00 标签、该问题在此版本中已得到修复、但它是一个向后兼容的版本、这意味着它将与 11.01 SDK 配合使用。  

    此问题将在 11.02 SDK 的下一版本中得到解决。

    此致、
    Gokul