[参考译文] TDA4AH-Q1：仿真和板载推理之间的一致性问题、以及电路板上多个推理的一致性问题

我们正在研究 问题(A)仿真和板载差分(B)具有不同结果的多推理

我们能够重现这两个问题、并 应 在明天重新解决这两个问题

谢谢！

此致、

Pramod

我们验证了以前能够正确推理的所有模型、发现其中一个模型在修补程序更新后出现一致性问题。

我们使用的补丁是  

Link: tidrive.ext.ti.com/.../7e46c098-8c53-4eb0-84c3-be47c8f34b04
Access Code: |wH7N3VZ

 还提供了供复制的材料。 这是新添加的模型、不是以前提供的模型。

/cfs-file/__key/communityserver-discussions-components-files/791/different_2D00_between_2D00_simulation_2D00_and_2D00_board.zip

抱歉、这是我们的错误。 我们提供了错误的 import.config。

我们已对模型2的材料进行了重新编排、您可以通过以下链接下载这些材料：

/cfs-file/__key/communityserver-discussions-components-files/791/2425.our_5F00_model.zip

TI 系统中的问题跟踪：TIDL-7340、TIDL-7369

你好、 GUANG REN  

感谢额外的输入。

TI 侧 A 版本( 10_01_03_06 )可通过以下路径使用

链接：

tidrive.ext.ti.com/.../0838da3a-df57-4f19-92db-0f5850348be5
代码：5AT) S1zc

不知何故、如果上述链接没有完全出现在 E2E 中、那么共享一个 tinyurl ：https://tinyurl.com/3cf7k4p9

请注意：目前仍在进行更多验证、我们将在明天确认测试结果。 如果您想提前尝试、请在此处分享

它应该适用于以下所有 E2E

1.当前(这是) E2E： e2e.ti.com/.../tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board

其他 E2E：
2. e2e.ti.com/.../tda4vh-q1-when-disable-otf-buffer-optimizations-the-result-of-deconv2dlayer-is-error-on-board
3. e2e.ti.com/.../tda4vh-q1-c7x-encountered-an-error-during-the-initialization-of-deconvolution-with-group
4. e2e.ti.com/.../tda4ah-q1-when-the-group-is-not-equal-to-1-the-simulation-inference-results-of-deconvolution-in-sdk-9-2-are-abnormal
5. e2e.ti.com/.../tda4ah-q1-when-we-inference-on-the-board-with-a-caffe-model-which-includes-deconvolution-layers-in-sdk9-2-the-process-gets-stuck-at-the-deconvolution-step
——
6. e2e.ti.com/.../tda4ah-q1-when-we-test-our-model-in-sdk-9-2-we-find-that-the-results-on-the-board-does-not-match-the-simulation-results
——
7. e2e.ti.com/.../tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board
——
已部分解决以下问题
8. e2e.ti.com/.../tda4ah-q1-when-we-test-innerproduct-layer-in-sdk-9-2-we-find-that-the-computation-time-of-this-layer-increases-significantl
——

谢谢！
此致、

Pramod

你好、光 仁

我们进行了验证、所有车型都运行良好。 不会出现不匹配情况。

谢谢。此致
Vijay

你好、Vijay、

     根据 26日提供的补丁、我们发现了一个新的一致性问题。 在昨天的帖子中、我们给出了相应的模型结构。   今天发布的新补丁 仍然存在相同的问题。  

    类似于'Flatten+Innerproduct +Relu + Innerproduct'的网络结构 在推理期间都存在一致性问题。

我们验证了以前能够正确推理的所有模型、发现其中一个模型在修补程序更新后出现一致性问题。

我们使用的补丁是  

Link: tidrive.ext.ti.com/.../7e46c098-8c53-4eb0-84c3-be47c8f34b04
Access Code: |wH7N3VZ

 还提供了供复制的材料。 这是新添加的模型、不是以前提供的模型。

/cfs-file/__key/communityserver-discussions-components-files/791/different_2D00_between_2D00_simulation_2D00_and_2D00_board.zip

您好、 Pramod

在验证补丁的同时、我们发现其他模型中仿真和电路板侧性能之间仍然存在不一致、以及电路板侧执行故障的问题、模型如下所示。 请帮助我们解决这些问题

我们使用的补丁是  10_01_03_06

我们使用的模型如下所示：

/cfs-file/__key/communityserver-discussions-components-files/791/Supplementary_2D00_model_2D00_0402.zip

你(们)好

/cfs-file/__key/communityserver-discussions-components-files/791/different_2D00_between_2D00_simulation_2D00_and_2D00_board.zip
我使用最新补丁(10_01_03_06)测试了此模型。 是否匹配。

谢谢。此致
Vijay

你(们)好  

/cfs-file/__key/communityserver-discussions-components-files/791/Supplementary_2D00_model_2D00_0402.zip

 1) mod_seg_board_error：
     1) 1)我测试了此模型、它在 EVM 上运行正常、输出匹配。
     2)您是否制作了 sdk_scrub -j 并使用最新的修补程序再次编译了模型?
     3)从您共享的日志中,它看起来像,SD 卡未正确刷新。

 2) 2) Difference_Between simulation_and_board：  
     1) 1)我无法使用您共享的配置和模型编译模型。
     2)错误: [TIDL 导入][解析器]错误:无法导入此模型。 某些数据是必需的、但不作为输入数据层提供。 请仔细检查您的              模型的输入数据首页名称-[tidl_caffeImport_v2.cpp、538]
       [TIDL 导入]致命错误：Caffe 模型导入失败--[tidl_import_main.cpp、482]
       [TIDL 导入]正在中止

谢谢。此致
Vijay

您好、 Vijay Singhal

Difference_between simulation_and_board 问题具有较高的优先级。 我们再次在本地测试了该模型、它可以正常编译。 您能为我们提供完整的日志吗？

谢谢！

你好 Gaung
我再次测试了它、抱歉、这是我的错误。  
现在我能够编译并运行模型、输出已与我匹配。

您是否可以重新编译模型并在本地进行测试？
如果仍然遇到问题、我们可以进行调用调试。  

谢谢。此致
Vijay

您好、 Vijay Singhal

我再次测试它、但仿真和电路板的结果仍然不同。 您能否提供我提供的输入数据的仿真输出结果和电路板输出结果？  

e2e.ti.com/.../evm_5F00_tidl_5F00_res_5F00_onnx_5F00_model_5F00_7              e2e.ti.com/.../ref_5F00_tidl_5F00_res_5F00_onnx_5F00_model_5F00_7

您好、 Vijay  

我们将 尽快进一步验证它。  我们发现炭疽一致性问题。 调整 模型1 在我们提供的以下链接中、我们发现 SDK8.6和 SDK10.1 (10_01_03_06)之间的结果不同。 请尽快帮助我们解决问题。

/cfs-file/__key/communityserver-discussions-components-files/791/the_5F00_consistency_5F00_issues_5F00_between_5F00_simulation_5F00_and_5F00_on_2D00_board_5F00_inference.zip

您好、Guang、

只是想澄清您的最新查询/问题：

8.6和10.1的输出可能因这些版本的量化变化而有所不同。 我们一直没有跟踪得到相同的位匹配输出 b/w 8.6和10.1。 但是、我们一直在 跟踪我们的功能行为、  通过与 ONNX 运行时间进行比较、量化变化不会导致性能下降。

因此,我想更好地理解这个问题与10.1的绝对行为,而不是与8.6的比较:你是否看到与10.1的功能行为有任何问题,即使它不匹配与8.6的?

谢谢！

此致、

Pramod

当前可以保持仿真和板载推理结果的一致性。 但是、无法保证与 SDK 8.6的推理结果的一致性。 我们比较了这两个版本的量化系数、发现它们是一致的。 推理结果在理论上也应该是一致的。

我们仍在进一步查明问题的根源。

你(们)好

希望你做得好。

我们需要你们的澄清。 您能确认吗？

谢谢、此致
Vijay

你( Vijay)好

   对当前情况做一个陈述。

•    以下问题已得到解决：
  1. [报价 userid="497284" url="~/support/processors-group/processors/f/processors-forum/1494305/tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board "]

     提供这两个模型是为了重现仿真和板载推理之间的一致性问题。

     /cfs-file/__key/communityserver-discussions-components-files/791/the_5F00_consistency_5F00_issues_5F00_between_5F00_simulation_5F00_and_5F00_on_2D00_board_5F00_inference.zip

     [报价]
  2. [报价 userid="497284" url="~/support/processors-group/processors/f/processors-forum/1494305/tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board "]

     这两个模型适合再现模型多个推断产生的不一致结果的问题。

     /cfs-file/__key/communityserver-discussions-components-files/791/the_5F00_consistency_5F00_issues_5F00_of_5F00_multiple-inferences.zip

     [报价]

• 以下问题无法重现
  1. [报价 userid="497284" url="~/support/processors-group/processors/f/processors-forum/1494305/tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board/5746799 #5746799"]

      还提供了供复制的材料。 这是新添加的模型、不是以前提供的模型。

     /cfs-file/__key/communityserver-discussions-components-files/791/different_2D00_between_2D00_simulation_2D00_and_2D00_board.zip

     [/报价]我们将进一步调查此问题的原因。
  • han xifeng 说：

    8. e2e.ti.com/.../tda4ah-q1-when-we-test-innerproduct-layer-in-sdk-9-2-we-find-that-the-computation-time-of-this-layer-increases-significantl
  The 的时间消耗量增加问题在我们的测试中没有得到解决、我们将再次确认。

• 以下问题是在 SDK 8.6 (而非10.01.03.06版本)中发现的缺陷
  1. [报价 userid="497284" url="~/support/processors-group/processors/f/processors-forum/1494305/tda4ah-q1-the-consistency-issues-between-simulation-and-on-board-inference-as-well-as-the-consistency-issues-of-multiple-inferences-on-the-board/5747473 #5747474747474"]

     我们将 尽快进一步验证它。  我们发现炭疽一致性问题。 调整 模型1 在我们提供的以下链接中、我们发现 SDK8.6和 SDK10.1 (10_01_03_06)之间的结果不同。 请尽快帮助我们解决问题。

     /cfs-file/__key/communityserver-discussions-components-files/791/the_5F00_consistency_5F00_issues_5F00_between_5F00_simulation_5F00_and_5F00_on_2D00_board_5F00_inference.zip

     [/报价]当前版本的仿真和电路板侧是一致的。 但是、它们在 SDK 8.6中时是不一致的。SDK 8.6和10.01.03.06的仿真结果是一致的。