This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:TDA4VM:PC 上 net.bin 文件的推理结果与板上的结果不一致。

Guru**** 2337880 points
Other Parts Discussed in Thread: J721EXSOMXEVM, J721EXCPXEVM, SK-TDA4VM
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1512805/tda4vm-tda4vm-the-inference-result-of-net-bin-file-on-pc-in-not-consistent-with-the-result-on-board-side

器件型号:TDA4VM
主题中讨论的其他器件:J721EXSOMXEVMJ721EXCPXEVM

工具/软件:

SDK:TI-PROCESSOR-SDK-RTOS-j721s2-evm-09_01_00_06

PC 程序: PC_dsp_test_dl_algo.out

将 onnx 文件导入到.bin 文件后、我使用 PC 程序运行.bin 文件、我'v 会得到如下结果:

[[1     0]
 [-3    3]
   [0   0]
 [-9    9]
 [-21  21]
 [-24  25]
 [-21  21]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]]

然后、我在板上运行 net.bin 和 io.bin 的应用、并获得如下结果:

[[1     0]
 [-4   4]
   [1  -1]
 [ -8  8]
 [-26 26]
 [-26 27]
 [-19 20]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]
 [ 127 -128]]

此外、我们正在使用 yolov8运行分类任务、但我们移除了最后一个 softmax 层、否则由于尺寸限制、我们无法在电路板端运行 net.bin。

 下面放置了推理配置、导入配置、net.bin、io.bin、输入图像等可能需要的文件。

e2e.ti.com/.../5621.upload.zip

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    你好、Jin;

    感谢您问这个问题。 为了调试问题、我们需要完全复制您所做的操作。 您能否提供以下信息?   

    1.您使用的是哪块板?  SK-TDA4VM 或 J721EXSOMXEVM + J721EXCPXEVM

    2.您是如何将 onnx 文件导入 bin 文件的,您使用的是哪个软件?

    3.您是如何与 PC 程序一起运行.bin 文件的? 哪个软件和哪个版本?

    4.您是如何在电路板上运行 net.bin 和 io.bin 的? 我假设您首先构建 RTOS SDK、然后从 SD 卡引导。 SDK 版本为 09_01_00_06、对吗?

    谢谢。此致

    Wen Li

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    嗨、Jin

    我无法重现您的问题、但出现以下错误:

    /home/ht/SDKs/j721e/09_01/ti-processor-sdk-rtos-j721e-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/PC_dsp_test_dl_algo.out s:infer_config.txt 
    
    Processing config file #0 : infer_config.txt 
    Input : dataId=1, name=images_original, elementType 0, scale=1.000000, zero point=0, layout=0
    Ouput : dataId=47, name=/model.9/linear/Gemm_output_0, elementType 1, scale=8.864737, zero point=0, layout=0 
          4480644,      4.273 0x7b72d3e00010
    worstCaseDelay for Pre-emption is 0.1996270 
    Network File Read done
    Calling algAlloc
    TIDL_initDebugTraceParams Done 
    
    --------------------------------------------
    TIDL Memory size requiement (record wise):
    MemRecNum   , Space               , Attribute   , Alignment   , Size(KBytes), BasePtr     
    0           , DDR Cacheable       , Persistent  ,  128, 15.25   , 0x00000000
    1           , DDR Cacheable       , Persistent  ,  128, 0.64    , 0x00000000
    2           , DDR Cacheable       , Scratch     ,  128, 16.00   , 0x00000000
    3           , DDR Cacheable       , Scratch     ,  128, 448.00  , 0x00000000
    4           , DDR Cacheable       , Scratch     ,  128, 2944.00 , 0x00000000
    5           , DDR Cacheable       , Persistent  ,  128, 1714.27 , 0x00000000
    6           , DDR Cacheable       , Scratch     ,  128, 11.88   , 0x00000000
    7           , DDR Cacheable       , Scratch     ,  128, 961.25  , 0x00000000
    8           , DDR Cacheable       , Scratch     ,  128, 7686.12 , 0x00000000
    9           , DDR Cacheable       , Scratch     ,  128, 2565.00 , 0x00000000
    10          , DDR Cacheable       , Persistent  ,  128, 608.05  , 0x00000000
    11          , DDR Cacheable       , Scratch     ,  128, 512.25  , 0x00000000
    12          , DDR Cacheable       , Persistent  ,  128, 0.12    , 0x00000000
    13          , DDR Cacheable       , Persistent  ,  128, 4375.75 , 0x00000000
    14          , DDR Cacheable       , Persistent  ,  128, 0.05    , 0x00000000
    --------------------------------------------
    Total memory size requirement (space wise):
    Mem Space , Size(KBytes)
    DDR Cacheable, 21858.64
    --------------------------------------------
    NOTE: Memory requirement in host emulation can be different from the same on EVM
          To get the actual TIDL memory requirement make sure to run on EVM with 
          debugTraceLevel = 2
    
    --------------------------------------------
    Num,    Space,     SizeinBytes,   SineInMB
       0,    17,        15616,      0.015 0x58bf68684980
       1,    17,          656,      0.001 0x58bf68683980
       2,    17,        16384,      0.016 0x7b72d4400080
       3,    17,       458752,      0.438 0x7b72d4404080
       4,    17,      3014656,      2.875 0x7b72d4474080
       5,    17,      1755412,      1.674 0x7b72d4253080
       6,    17,        12160,      0.012 0x7b72d4754080
       7,    17,       984320,      0.939 0x7b72d4757000
       8,    17,      7870592,      7.506 0x7b72d4847500
       9,    17,      2626560,      2.505 0x7b72d4fc8d80
      10,    17,       622648,      0.594 0x7b7368e41080
      11,    17,       524544,      0.500 0x7b72d524a180
      12,    17,          128,      0.000 0x58bf68688700
      13,    17,      4480772,      4.273 0x7b72d3800080
      14,    17,           50,      0.000 0x58bf68688880
    Total External Memory (DDR) Size =     22383250,     21.346 
    TIDL init call from ivision API 
    
    --------------------------------------------
    TIDL Memory size requiement (record wise):
    MemRecNum   , Space               , Attribute   , Alignment   , Size(KBytes), BasePtr     
    0           , DDR Cacheable       , Persistent  ,  128, 15.25   , 0x68684980
    1           , DDR Cacheable       , Persistent  ,  128, 0.64    , 0x68683980
    2           , DDR Cacheable       , Scratch     ,  128, 16.00   , 0xd4400080
    3           , DDR Cacheable       , Scratch     ,  128, 448.00  , 0xd4404080
    4           , DDR Cacheable       , Scratch     ,  128, 2944.00 , 0xd4474080
    5           , DDR Cacheable       , Persistent  ,  128, 1714.27 , 0xd4253080
    6           , DDR Cacheable       , Scratch     ,  128, 11.88   , 0xd4754080
    7           , DDR Cacheable       , Scratch     ,  128, 961.25  , 0xd4757000
    8           , DDR Cacheable       , Scratch     ,  128, 7686.12 , 0xd4847500
    9           , DDR Cacheable       , Scratch     ,  128, 2565.00 , 0xd4fc8d80
    10          , DDR Cacheable       , Persistent  ,  128, 608.05  , 0x68e41080
    11          , DDR Cacheable       , Scratch     ,  128, 512.25  , 0xd524a180
    12          , DDR Cacheable       , Persistent  ,  128, 0.12    , 0x68688700
    13          , DDR Cacheable       , Persistent  ,  128, 4375.75 , 0xd3800080
    14          , DDR Cacheable       , Persistent  ,  128, 0.05    , 0x68688880
    --------------------------------------------
    Total memory size requirement (space wise):
    Mem Space , Size(KBytes)
    DDR Cacheable, 21858.64
    --------------------------------------------
    NOTE: Memory requirement in host emulation can be different from the same on EVM
          To get the actual TIDL memory requirement make sure to run on EVM with 
          debugTraceLevel = 2
    
    --------------------------------------------
    Algorithm Init failed with error number: -1130
    Error at line:   527 : in file /home/dockeruser/psdk_installer_build_top_workarea/scratch_workarea/ti-processor-sdk-rtos-j721e-evm-09_01_00_06/c7x-mma-tidl/ti_dl/test/src/pc_linux/../tidl_tb.c, of function : tidlMultiInstanceTest 
    Invalid Error Type!
    

    请确保文件和配置正确。  

    此致、

    Adam

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    你(们)好  

    来清楚地说明这一点。 好了 控制 与客户沟通时不是 j721e。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Jin:

    在目标模式下、不支持 jpg 文件、仅支持 bmp。 似乎您在 PC 模式下使用 jpg 文件、在 EVM (目标模式)中使用 bmp 文件、因此会产生不同的结果。

    bad7afed7ff946f7b4ddfd4d2ed94140  mask_v1_evm.bin
    bad7afed7ff946f7b4ddfd4d2ed94140  mask_v1_pc_bmp.bin
    9a85504a607c010fc66009ad33a496e0  mask_v1_pc_jpg.bin

    我使用 md5sum 检查结果。 使用 bmp 文件作为输入和目标模式的 PC 模式是位匹配的。 您的问题应该是使用不同的输入造成的。  

    请记住、输入内容必须相同、包括文件格式。

    请注意、

    Adam