This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] CCS:TDA4x:基于 Tensorflow 的模型有符号层输出优化板载问题

Guru**** 2178880 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/tools/code-composer-studio-group/ccs/f/code-composer-studio-forum/894070/ccs-tda4x-tensorflow-based-model-signed-layer-output-optimization-issue-on-board

工具/软件:Code Composer Studio

关于以下主题中提出的问题:

https://e2e.ti.com/support/processors/f/791/p/855997/3167091#pi320966filter=all&pi320966scroll=false&pi320966=2

注意:在 TIDL 版本中、"tidl_J7_01_00_00_00"我们能够导入(在对其进行修改后)、甚至在 PC 仿真模式下运行。 但它在目标端失败。

我无法在您的发行说明中找到已修复的已入伍问题(文件://E:/tidl_j7_01_00_10/TIDeepLearningLibrary_ReleaseNotes.html)

我必须在最新版本的导入工具中进行更改、以适应基于 TF 的模型、然后在 Target 上运行它。

注意:使用"tidl_j7_01_00_00_00"、我们能够导入甚至运行 PC 仿真。 但它在目标端失败。

因此、在继续使用最新版本的 TIDL 之前、您能否帮助我并确认版本中是否按照承诺处理了相同的问题。

谢谢、此致、

Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

    您是否屈从于以下位置

    或  

    以下为问题

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    第二个主题中描述的问题、即 https://e2e.ti.com/support/processors/f/791/p/855997/3167091#3167091

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

    Are you refering to the below issue?
    Alg Init forLayer # -   78
    MMALIB_CNN_convolve_col_smallNo_ixX_ixX_oxX_init 1 :FAILED
    Algorithm Init failed with error number: -1
    Error at line:   479 : in file          src/tidl_tb.c, of function : tidlMultiInstanceTest
    Invalid Error Ty

     

    如果是、

    您能否提供第78层的模式详细信息? 例如分辨率、内核维度卷积的其他属性。

    我在另一个线程上找不到这些详细信息。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    有关第78层信息和进一步讨论的完整进度、请查看以下主题:

    TI 方面的最后一个回复中

    本州回答了我们  

    " 问题即将出现、因为该层的输出作为有符号输出提供、而我们的优化实现目前未处理该输出。 要向前移动、您是否可以在该卷积之后有一个 Relu 层? 在平均时间内、我将确定我们是否可以支持(我认为在支持此功能时不会出现问题、但我想在此与我们的团队联系)。"

    我的问题是关于上述陈述、请确认您是否在最新版本的优化实现中处理了来自该层的带符号输出?

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

      您使用的 MMALIB 版本是什么? 此问题已在 MMALIB 1.1中修复。 您可以确认吗?

    此致、

    安州

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    使用的版本为"mmalib_ 01_01_00_00"。

    感谢您确认、如果是 MMALib_01_01_00_00、则会使用最新版本解析第78层的带符号输出。

    我们将尝试根据模型要求修改导入工具、并告知您模型是否在目标上成功运行。

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:
      我们可以关闭这个线程吗?

    此致、

    安州

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    我们尝试在目标(独立 CCS)上的以下版本上运行该模型:

    PSDK_RTOS_auto_J7_06_02_00_21

    tidl_J7_01_01_00_10

    MMALib_01_01_00_00

     并面临以下误差

    正在处理配置文件#0:testvecs/config/infer/tidl_infer_DASNet.txt
    
    Syncd
    
    MMALIB_CNN_ convolve_col_smallNo_Ixx_Ixx_oxX_init 1:
    
    失败的算法初始化失败,错误编号:-1
    
    行错误:496:在文件 src/tidl_tb.c 中,函数:tidlInstanceType
    
    无效! 

    请帮助我们解决此问题。

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

      是否有一个小型虚拟模型可供我们分享以重现此问题?


    此致、

    常熟

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

      我在此处提到的版本上尝试过此模型、但我没有看到任何此类错误消息。 您能否具体说明这是哪一层? BTW 共享的模型未按原样导入、我必须跳过 con概念 层中的一条错误消息(这不应改变任何行为)。


    此致、

    常熟

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Vyom:

      我现在能够重现此问题、因为此问题仅针对优化的实施。 但该层的参数与另一个线程(http://e2e.ti.com/support/processors/f/791/p/855997/3167091#3167091)中描述的参数不同。 这是一个7x7卷积、问题在于内核符号和功能映射的组合。 该问题已得到解决。 但您现在共享的模型失败、因为您具有不 受支持的2x2不可分离卷积。


    此致、

    安州

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    感谢您的努力。

    是的、我们需要跳过错误消息、它不会影响行为。

    到目前为止、我们在目标端使用相同的虚拟模型失败了。

    我请求您是否可以通过电子邮件将导入的模型文件与推理和导入配置文件一起发送给我们。

    我们也可以在我们的一侧检查。

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Vyom、

       您所观察到的故障是因为我们不支持2x2不可分割的卷积。 是否可以更改它?

    此致、

    安州

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的先生:

    这对我们来说有点令人困惑。

    如果是2x2不按方向转换 不支持您在目标上运行虚拟模型的方式。

    在此之前、我将与团队核实这一变化。

    请做必要的事。

    谢谢、此致、

    Vyom Mishra

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Vyom、
     我无法在目标上运行,因为我收到以下错误:

    Are you refering to the below issue?
    Alg Init for Layer # -   78
    MMALIB_CNN_convolve_col_smallNo_ixX_ixX_oxX_init 1 :FAILED
    Algorithm Init failed with error number: -1
    Error at line:   479 : in file          src/tidl_tb.c, of function : tidlMultiInstanceTest
    Invalid Error Ty
     出现此错误的原因是不支持2x2不可分割的层。

    此致、
    安州
  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、安州、

    您能否澄清该模型是否在目标上运行。 如果确实如此,那么为什么您声称错误是由于目标上运行的不受支持的图层所致。

    此致、

    Sankalp

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Sankalp、

     由于上面提到的错误、这个模型将不会在目标上运行。


    此致、

    常熟

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    该模型一直运行到 PC 仿真。 为什么在 PC 仿真后模型在目标上失败? 如果目标上没有支持、那么为什么在 PC 仿真上允许支持。 您是否意味着 PC 仿真中支持的操作、而不是目标上支持的操作?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Sankalp、

      PC 仿真模式运行每一层的参考代码、在这里、当我说参考代码时、它意味着没有 DMA、涉及 MMA、它的每个层的 C/C++实现。 现在、参考代码可用于特定层的各种组合、但 并非所有组合都具有可用的最佳实现。 您可以参考以下部分了解支持的图层:

    http://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-jacinto7/latest/exports/docs/tidl_j7_01_01_00_10/ti_dl/docs/user_guide_html/md_tidl_layers_info.html

     我们已在导入工具中为此类案例添加了更多警告、在即将发布的版本中、您应该会在导入期间看到此案例的警告。


    此致、

    安州  

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的安州:

    感谢您添加警告。  

    出现该错误的原因是您之前的有符号值、而不是由于不支持可分离的 conv 层。

    我们已经等待您的解决 如果不是有符号输出问题、我们本可以在该模型上更快地取得进展。

    此致、

    Sankalp

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Sankalp、
     上次报告类似问题时、该层具有7x7不可分离卷积、但该时间问题是由有符号值引起的。 该问题现已得到解决。 但这次共享的模型具有2x2不可分离的卷积、而不是7x7不可分离的卷积、这不是支持的、因此与之前报告的问题无关。 希望这能澄清。

    此致、

    安州