[参考译文] TDA4VM：TDA4VM：PC 上 net.bin 文件的推理结果与板上的结果不一致。

admin

Other Parts Discussed in Thread: J721EXSOMXEVM, J721EXCPXEVM, SK-TDA4VM

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1512805/tda4vm-tda4vm-the-inference-result-of-net-bin-file-on-pc-in-not-consistent-with-the-result-on-board-side

器件型号：TDA4VM
主题中讨论的其他器件：J721EXSOMXEVM、 J721EXCPXEVM、

工具/软件：

SDK：TI-PROCESSOR-SDK-RTOS-j721s2-evm-09_01_00_06

PC 程序： PC_dsp_test_dl_algo.out

将 onnx 文件导入到.bin 文件后、我使用 PC 程序运行.bin 文件、我'v 会得到如下结果：

[[1     0]
[-3    3]
   [0   0]
[-9    9]
[-21  21]
[-24  25]
[-21  21]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]]

然后、我在板上运行 net.bin 和 io.bin 的应用、并获得如下结果：

[[1     0]
[-4   4]
   [1  -1]
[ -8  8]
[-26 26]
[-26 27]
[-19 20]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]
[ 127 -128]]

此外、我们正在使用 yolov8运行分类任务、但我们移除了最后一个 softmax 层、否则由于尺寸限制、我们无法在电路板端运行 net.bin。

下面放置了推理配置、导入配置、net.bin、io.bin、输入图像等可能需要的文件。

e2e.ti.com/.../5621.upload.zip

4 个月前

0 admin 4 个月前

TI__Guru**** 2337880 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

你好、Jin；

感谢您问这个问题。为了调试问题、我们需要完全复制您所做的操作。您能否提供以下信息？

1.您使用的是哪块板? SK-TDA4VM 或 J721EXSOMXEVM + J721EXCPXEVM

2.您是如何将 onnx 文件导入 bin 文件的,您使用的是哪个软件?

3.您是如何与 PC 程序一起运行.bin 文件的? 哪个软件和哪个版本？

4.您是如何在电路板上运行 net.bin 和 io.bin 的? 我假设您首先构建 RTOS SDK、然后从 SD 卡引导。 SDK 版本为 09_01_00_06、对吗？

谢谢。此致

Wen Li

0 admin 4 个月前

TI__Guru**** 2337880 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

嗨、Jin

我无法重现您的问题、但出现以下错误：

/home/ht/SDKs/j721e/09_01/ti-processor-sdk-rtos-j721e-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/PC_dsp_test_dl_algo.out s:infer_config.txt 

Processing config file #0 : infer_config.txt 
Input : dataId=1, name=images_original, elementType 0, scale=1.000000, zero point=0, layout=0
Ouput : dataId=47, name=/model.9/linear/Gemm_output_0, elementType 1, scale=8.864737, zero point=0, layout=0 
      4480644,      4.273 0x7b72d3e00010
worstCaseDelay for Pre-emption is 0.1996270 
Network File Read done
Calling algAlloc
TIDL_initDebugTraceParams Done 

--------------------------------------------
TIDL Memory size requiement (record wise):
MemRecNum   , Space               , Attribute   , Alignment   , Size(KBytes), BasePtr     
0           , DDR Cacheable       , Persistent  ,  128, 15.25   , 0x00000000
1           , DDR Cacheable       , Persistent  ,  128, 0.64    , 0x00000000
2           , DDR Cacheable       , Scratch     ,  128, 16.00   , 0x00000000
3           , DDR Cacheable       , Scratch     ,  128, 448.00  , 0x00000000
4           , DDR Cacheable       , Scratch     ,  128, 2944.00 , 0x00000000
5           , DDR Cacheable       , Persistent  ,  128, 1714.27 , 0x00000000
6           , DDR Cacheable       , Scratch     ,  128, 11.88   , 0x00000000
7           , DDR Cacheable       , Scratch     ,  128, 961.25  , 0x00000000
8           , DDR Cacheable       , Scratch     ,  128, 7686.12 , 0x00000000
9           , DDR Cacheable       , Scratch     ,  128, 2565.00 , 0x00000000
10          , DDR Cacheable       , Persistent  ,  128, 608.05  , 0x00000000
11          , DDR Cacheable       , Scratch     ,  128, 512.25  , 0x00000000
12          , DDR Cacheable       , Persistent  ,  128, 0.12    , 0x00000000
13          , DDR Cacheable       , Persistent  ,  128, 4375.75 , 0x00000000
14          , DDR Cacheable       , Persistent  ,  128, 0.05    , 0x00000000
--------------------------------------------
Total memory size requirement (space wise):
Mem Space , Size(KBytes)
DDR Cacheable, 21858.64
--------------------------------------------
NOTE: Memory requirement in host emulation can be different from the same on EVM
      To get the actual TIDL memory requirement make sure to run on EVM with 
      debugTraceLevel = 2

--------------------------------------------
Num,    Space,     SizeinBytes,   SineInMB
   0,    17,        15616,      0.015 0x58bf68684980
   1,    17,          656,      0.001 0x58bf68683980
   2,    17,        16384,      0.016 0x7b72d4400080
   3,    17,       458752,      0.438 0x7b72d4404080
   4,    17,      3014656,      2.875 0x7b72d4474080
   5,    17,      1755412,      1.674 0x7b72d4253080
   6,    17,        12160,      0.012 0x7b72d4754080
   7,    17,       984320,      0.939 0x7b72d4757000
   8,    17,      7870592,      7.506 0x7b72d4847500
   9,    17,      2626560,      2.505 0x7b72d4fc8d80
  10,    17,       622648,      0.594 0x7b7368e41080
  11,    17,       524544,      0.500 0x7b72d524a180
  12,    17,          128,      0.000 0x58bf68688700
  13,    17,      4480772,      4.273 0x7b72d3800080
  14,    17,           50,      0.000 0x58bf68688880
Total External Memory (DDR) Size =     22383250,     21.346 
TIDL init call from ivision API 

--------------------------------------------
TIDL Memory size requiement (record wise):
MemRecNum   , Space               , Attribute   , Alignment   , Size(KBytes), BasePtr     
0           , DDR Cacheable       , Persistent  ,  128, 15.25   , 0x68684980
1           , DDR Cacheable       , Persistent  ,  128, 0.64    , 0x68683980
2           , DDR Cacheable       , Scratch     ,  128, 16.00   , 0xd4400080
3           , DDR Cacheable       , Scratch     ,  128, 448.00  , 0xd4404080
4           , DDR Cacheable       , Scratch     ,  128, 2944.00 , 0xd4474080
5           , DDR Cacheable       , Persistent  ,  128, 1714.27 , 0xd4253080
6           , DDR Cacheable       , Scratch     ,  128, 11.88   , 0xd4754080
7           , DDR Cacheable       , Scratch     ,  128, 961.25  , 0xd4757000
8           , DDR Cacheable       , Scratch     ,  128, 7686.12 , 0xd4847500
9           , DDR Cacheable       , Scratch     ,  128, 2565.00 , 0xd4fc8d80
10          , DDR Cacheable       , Persistent  ,  128, 608.05  , 0x68e41080
11          , DDR Cacheable       , Scratch     ,  128, 512.25  , 0xd524a180
12          , DDR Cacheable       , Persistent  ,  128, 0.12    , 0x68688700
13          , DDR Cacheable       , Persistent  ,  128, 4375.75 , 0xd3800080
14          , DDR Cacheable       , Persistent  ,  128, 0.05    , 0x68688880
--------------------------------------------
Total memory size requirement (space wise):
Mem Space , Size(KBytes)
DDR Cacheable, 21858.64
--------------------------------------------
NOTE: Memory requirement in host emulation can be different from the same on EVM
      To get the actual TIDL memory requirement make sure to run on EVM with 
      debugTraceLevel = 2

--------------------------------------------
Algorithm Init failed with error number: -1130
Error at line:   527 : in file /home/dockeruser/psdk_installer_build_top_workarea/scratch_workarea/ti-processor-sdk-rtos-j721e-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/src/pc_linux/../tidl_tb.c, of function : tidlMultiInstanceTest 
Invalid Error Type!

请确保文件和配置正确。

此致、

Adam

0 admin 4 个月前

TI__Guru**** 2337880 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

你(们)好

来清楚地说明这一点。好了控制与客户沟通时不是 j721e。

0 admin 4 个月前

TI__Guru**** 2337880 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

尊敬的 Jin：

在目标模式下、不支持 jpg 文件、仅支持 bmp。似乎您在 PC 模式下使用 jpg 文件、在 EVM (目标模式)中使用 bmp 文件、因此会产生不同的结果。

bad7afed7ff946f7b4ddfd4d2ed94140  mask_v1_evm.bin
bad7afed7ff946f7b4ddfd4d2ed94140  mask_v1_pc_bmp.bin
9a85504a607c010fc66009ad33a496e0  mask_v1_pc_jpg.bin

我使用 md5sum 检查结果。使用 bmp 文件作为输入和目标模式的 PC 模式是位匹配的。您的问题应该是使用不同的输入造成的。

请记住、输入内容必须相同、包括文件格式。

请注意、

Adam

处理器（参考译文帖）

处理器（参考译文帖）(Read Only)

[参考译文] TDA4VM：TDA4VM：PC 上 net.bin 文件的推理结果与板上的结果不一致。