This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VH-Q1:有关 outputFeature16bitNamesList 和 params16bitNamesList 的模型导入工具问题

Guru**** 2442090 points
Other Parts Discussed in Thread: AM69A

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1534641/tda4vh-q1-model-import-tool-problem-about-outputfeature16bitnameslist-and-params16bitnameslist

器件型号:TDA4VH-Q1
主题中讨论的其他器件:AM69A

工具/软件:

您好:

我们正在使用模型导入工具。
在 tidl_config 文件中、我们将两个卷积层添加到 outputFeature16bitNamesList 和 params16bitNamesList、如下图所示:


运行 model_import.sh 后、SimpleBev_OD.txt 第 11 层中仍然有 8 位、并且在运行演示 (../hirain、tidl_immation_app.out input.bin 2 1 1 SimpleBev_OD_io.bin SimpleBev_OD_Net.bin) 时会发生错误、如下图所示:

 e2e.ti.com/.../0701-128x128-exracted.zip

所有相关数据和图像都放置在压缩包中。

您能帮助检查哪里可能出错吗? (SDK 11.00 版)

谢谢

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、

    这通常是由于没有图层的全名。  最好查看的位置是在的模型输出目录中 layer_info.txt、类似 tidl_net.bin.layer_info.txt。  这将有一个图层名称列表、如下所示:

    0 /quorite_encoder/conv_LSTM_3/Split_output_0_original
    1 1 /quality_encoder/conv_LSTM_3/Split_output_0
    2 2 /quorite_encoder/conv_LSTM_3/Sigmoid_output_0
    3 0 /quorite_encoder/conv_LSTM_3/Split_output_0_original
    4 0 /quorite_encoder/conv_LSTM_3/Split_output_0_original

    突出显示的文本将显示用于 Sigmoid 图层的名称。  此外、从其中一个映像中、TIDL_SignedShort 是 16 位的。  如果它是字符类型、则为 8 位。

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    我们检查了图层名称并确认它是图层的全名。 这可能是一个错误吗?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Hongyao:

    TIDL_SignedShort 的值为 16 位。  如果该层是 8 位、则 SVG 将具有 TIDL_SignedChar。  因此、 层标识是正确的、并且 TIDL 层为 16 位。  我根据以下配置编译和运行您的模型。   我更正了输入类型、因为该 txt 文件有一个.bin 文件、而不是一系列压缩文件。

    编译:

    ./tidl_model_import.out import_bev.txt

    为单个参数“FoldPreBNConv2D"提供“提供了提供了多个值 — 仅提取第一个值
    为单个参数'foldPreBnConv2D'提供了多个值 — 仅拾取第一个值====================== 【模型编译已启动】=======================

    模型编译将执行以下阶段:
    1.解析
    2.图形优化
    3.量化与校准
    4、内存规划

    ============================= 【版本摘要】=============================

    ----------------------------------------------------------------------------------------
    | TIDL 工具版本| 10_01_00_01 |
    ----------------------------------------------------------------------------------------
    | C7x 固件版本| 10_00_02_00 |
    ----------------------------------------------------------------------------------------

    ONNX 模型 (Proto) 文件:./ SimpleBev_OD.ONNx
    TIDL 网络文件:out/tidl_net.bin
    TIDL IO 信息文件:out/tidl_io_buf.bin
    当前 ONNX OpSet 版本:16
    =========================== 【优化已开始】============================

    -------------------------------- 优化摘要--------------------------------
    ----------------------------------------------------------------------------------------
    |优化前的层|节点|优化后的节点|
    ----------------------------------------------------------------------------------------
    | TIDL_BatchNormalLayer | 0 | 1 |
    | TIDL_ReLULayer | 2 | 0 |
    | TIDL_SqueezeLayer | 2 | 0 |
    | TIDL_ConvolutionLayer | 4 | 4 |
    | TIDL_SliceLayer | 2 |
    | TIDL_TransposeLayer | 2 | 0 |
    | TIDL_SigmoidLayer | 1 | 0 |
    ----------------------------------------------------------------------------------------

    ========================== 【优化已完成】==========================


    ----- 在浮动模式下运行校准以收集张量统计量-----
    [==============================================================================] 100%

    ------------------------ 定点校准迭代[1/1]:-------------------
    [==============================================================================] 100%

    ==================== 【量化和校准已完成】====================

    ========================= 【已启动内存规划】==========================


    ---------------------------- 网络编译器跟踪------------------------------------
    成功分配存储器
    成功创建工作负载

    ========================= 【内存规划已完成】==========================

    正在重新运行网络编译器...
    ========================= 【已启动内存规划】==========================


    ---------------------------- 网络编译器跟踪------------------------------------
    成功分配存储器
    成功创建工作负载

    ========================= 【内存规划已完成】==========================

    ======================== 已成功编译的子图形=========================

    推理:

    ./PC_DSP_TEST_dl_algo.out s:inference.txt

    正在处理配置文件#0:inference.txt
    ---------------------------- TIDL 过程的 REF_ONLY 流程-------------------------------

    # 0。 . T 16483.99 … … …

    root@7a8c131c1be6:/home/root/tidl_tools #

    此致、

    Chris

    e2e.ti.com/.../inference_5F00_h.txte2e.ti.com/.../import_5F00_h_5F00_bev.txt

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Chris、

    您是否还能提供推断的目标登录信息? 客户的问题发生在目标上。

    此致、

    Adam

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    我们使用 版本 11.0.8(而不是 10.01)的 tidl 模型导入工具。

    我们还测试  10.01 版的 tidl 模型导入工具、 此问题未出现。

    谢谢。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    在 EDGEAI_VERSION=10.1 的 AM69A 上。

    root@AM69-sk:/home/root/edgeai-tidl-tools/bin/Release #./tidlrt_ResNet -f /opt/arrow/out --image face_aligned_1.jpg
    模型文件名称:/opt/arrow/out/tidl_net.bin、/opt/arrow/out/tidl_io_buff1.bin
    应用程序:初始化...!!
    160844.886765 s:内存:初始化...!!
    160844.886815 s:内存:初始化的 DMA 堆 (FD=5)!!
    160844.886956 s:内存:初始化...完成!!!
    160844.886976 s:ipc: init ...!!
    160844.920990 s:ipc:初始化...完成!!
    remote_service:初始化...!!</s>!
    remote_service:初始化...完成!!!
    160844.928683 s:GTC 频率= 200MHz
    应用程序:初始化...完成!!
    160844.928792 s:vx_zone_info:全局启用 vx_zone_error
    160844.928810 s:vx_zone_info:全局启用 vx_zone_warning
    160844.928825 s:vx_zone_info:全局启用 vx_zone_info
    160844.929769 s:vx_zone_info:[tivxPlatformCreateTargetId:134]添加了目标 MPU-0
    160844.929901 s:vx_zone_info:[tivxPlatformCreateTargetId:134]添加了目标 MPU-1
    160844.929995 s:vx_zone_info:[tivxPlatformCreateTargetId:134]添加了目标 MPU-2
    160844.930106 s:vx_zone_info:[tivxPlatformCreateTargetId:134]添加了目标 MPU-3
    160844.930120 s:vx_zone_info:[tivxInitLocal:126]初始化完成!!!
    160844.930137 s:vx_zone_info:全局禁用 vx_zone_info
    已调用
    平均时间:332.348 ms
    特征矢量统计信息:
    尺寸:512
    最小值:–3.00667e+23
    最大值:2.8864e+23
    平均值:1.70299e+21
    特征向量已保存到 face_aligned_1.jpg.features.txt
    应用程序:Deinit ...!!
    REMOTE_SERVICE:取消初始化...!!!
    REMOTE_SERVICE:取消初始化...完成!!!
    160845.894343 s: IPC: Deinit ...!
    160845.895295 s : IPC: DeInit ..完成!!
    160845.895324 s:内存:Deinit ...!!
    160845.895336 s:DDR_SHARED_MEM:Alloc's:7 alloc's、共 68044312 字节
    160845.895344 s:DDR_SHARED_MEM:FREE's:7 FREE's of 68044312 bytes
    160845.895352 s:DDR_SHARED_MEM:open 的:0 个 0 字节的分配
    160845.895368 s:内存:Deinit ...完成!!!
    应用程序:Deinit ...完成!!

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Chris  

    我们使用 版本 11.0.8 的 tidl 模型导入工具、而不是 10.01。

    客户需要使用 11.0.8 进行转子样本性能。 请尝试 11.0

    [报价 userid=“53359595" url="“ url="~“~/support/processors-group/processors/f/processors-forum/1534641/tda4vh-q1-model-import-tool-problem-about-outputfeature16bitnameslist-and-params16bitnameslist ](SDK 版本 11.00)

    此致、

    Adam

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Adam:

    Chris 已经不在办公室,直到下周,但我可以继续为你归档这个 Jira ,因为你能够重新创建它。  

    Jira - TIDLP-7902

    此致、
    Christina

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Hongyao:

    我们已经测试并验证了内部版本 (11_01_02_01) 可以解决错误消息问题。 我们需要测试它是否可以解决其他 16 位问题。

    此致、

    Adam