This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:3D 输入的 MatMul 问题

Guru**** 2487425 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1436071/tda4vm-matmul-issue-with-the-3d-input

器件型号:TDA4VM

工具与软件:

尊敬的 TI 团队:

我正在使用 edgeai-tools (09_01_07_00)转换自定义 onnx 模型。  在转换过程中、 我遇到了一些问题。

为了进行调试、我 将模型简化为仅包含前两层(Reshape->MatMul)。 我在第一层之后比较了8位和32位模型的结果 匹配项

然后、在第二层(MatMul)之后、失配变得明显:

应用手册  convert_matmul_to_conv_1x1s1  可以将 MatMul 转换为合适的操作、 匹配项

我的问题如下:

  • MatMul 层是否支持3D 输入? 尺寸为1x5x48。 您是否可以确认 MatMul 图层在批量大小设置为1的情况下工作?
  • 我还尝试将整形添加到(4D)-> Matmul (4D)->整形添加到(3D)、但我也得到了不正确的结果。 这种方法是否正确?
  • 如果不支持3D 输入、是否有明确应具有4D 输入的图层列表?
  • 的局限性之一  convert_matmul_to_conv_1x1s1 如果 MatMul 有2个输入、则脚本无法正常工作。 您能建议如何解决该问题吗? 以下是包含两个输入 MatMul 的模型的一部分:

此致、

Nevena.

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的  Nevena:

    您可以尝试一个在 ARM 内核上运行 matmul 层的简单测试吗?   

    请参阅:

    https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/README.md#options-to-enable-control-on-layer-level-delegation-to-ti-dsparm

    如何拒绝 C7X 的层并在 ARM 内核上运行。

    这将有助于找出问题所在。  如果降级持续存在、则可能是您所做的工作不受支持。  

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    在做一些研究时,我发现一个语句:"Matmul 层在 SDK 9.2上工作。"  您当前的版本是9.1;升级到9.2可能会解决您遇到的问题。   

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Stefan 的消息、该问题属于固件版本问题。   

    Chris、您好!
    对不起、混淆–当我说到版本10_00_08_00时、我指的是  TIDL 工具版本 (随附的图像)。 C7x 固件版本 低于10_00_07_00。 将 C7x 固件更新为最新版本后-问题消失了。
    我们将与客户确认此版本更改是否可接受。
    感谢您的帮助!
    此外、我们还将关闭 E2E 论坛上的主题。
    此致!
    Stefan。
    我将关闭该主题帖。   
    谢谢!
    Chris