[参考译文] TDA4VM：使用 edgeeai_tidl_tools 时 DL 模型编译失败

您好！

是否可以尝试打开 debug_level=3以输出更多日志？ 谢谢~

感谢您的回复，以下是日志输出 ：->*debug_level=3*，我仍然不知道如何解决这个问题，TAT

我的 onnxfile 的大小为53.1MB、  

===

input_names：[input]
output_names：[output]
正在初始化 nnxrt ...
libtidl_onnxrt_EP 加载了0x56441328cf30
工件文件夹=./artifers
DEBUG_LEVEL = 3
Target_Priority = 0
MAX_PRE_EST_DELAY = 3402823638528859811704183484516925440.000000

***** 警告***** ：无法打开./artifacts/allowedNode.txt 进行读取... 整个模型将在 ARM 上运行、而不会对 TIDL 进行任何委派！
创建的子图的最终数量为：1，-卸载节点- 0，节点总数- 0
在 nxrt 上运行...
input_names：[input]
tidl_tools_path =$｛my_local_folder｝/edgeai-tidl-tools/tidl_tools
工件文件夹=./artifers
tidl_tenser_bits = 8
DEBUG_LEVEL = 3
num_tidl_subwavees= 16
tidl_denylist =
tidl_denylist_lay_name =
tidl_denylist_lay_type =
model_type =-1
tidl_calibration_Accuration_level = 7
tidl_calibration_options：num_FRA框_calibration = 1.
tidl_calibration_options：bias 校准迭代= 5
Mixed_precision_factor =-1.000000
MODE_group_id = 0
power_for_2_quanatization = 2.
ENABLE_HIGH_RESolution_optimization = 1.
pre_batchnorm_fold = 1.
ADD_DATA_CONVERT_ops = 0
output_feature_16bit_names_list =
m_params_16bit_names_list =
RESERVE_COMPILET_constraints 标志= 1601
TI_INTERNAL_RESERVE_1 =

***** 警告：网络未标识为对象检测网络：(1)如果网络不是对象检测网络则忽略(2)如果网络是对象检测网络，请指定"model_type":"OD"作为 OSRT 编译选项的一部分****

支持的 TIDL 层类型-- Conv --/model/backbone/input/input.0/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/input/input.2/Relu
支持的 TIDL 层类型-- MaxPool --/model/backbone/input/input.3/MaxPool
支持的 TIDL 层类型-- Conv --/model/backbone/layer1/layer1.0/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer1/layer1.0/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer1/layer1.0/conv2/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer1/layer1.0/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer1/layer1.0/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer1/layer1.1/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer1/layer1.1/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer1/layer1.1/conv2/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer1/layer1.1/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer1/layer1.1/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer2/layer2.0/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer2/layer2.0/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer2/layer2.0/conv2/Conv
支持的 TIDL 层类型-- Conv --/model/backbone/layer2/layer2.0/downsample/downsample.0/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer2/layer2.0/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer2/layer2.0/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer2/layer2.1/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer2/layer2.1/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer2/layer2.1/conv2/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer2/layer2.1/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer2/layer2.1/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer3/layer3.0/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer3/layer3.0/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer3/layer3.0/conv2/Conv
支持的 TIDL 层类型-- Conv --/model/backbone/layer3/layer3.0/downsample/downsample.0/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer3/layer3.0/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer3/layer3.0/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer3/layer3.1/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer3/layer3.1/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer3/layer3.1/conv2/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer3/layer3.1/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer3/layer3.1/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer4/layer4.0/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer4/layer4.0/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer4/layer4.0/conv2/Conv
支持的 TIDL 层类型-- Conv --/model/backbone/layer4/layer4.0/downsample/downsample.0/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer4/layer4.0/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer4/layer4.0/relu_1/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer4/layer4.1/conv1/Conv
支持的 TIDL 层类型-- Relu --/model/backbone/layer4/layer4.1/relu/Relu
支持的 TIDL 层类型-- Conv --/model/backbone/layer4/layer4.1/conv2/Conv
支持的 TIDL 层类型--添加--/model/backbone/layer4/layer4.1/Add
支持的 TIDL 层类型-- Relu --/model/backbone/layer4/layer4.1/relu_1/Relu
支持的 TIDL 层类型-- Relu --/model/backbone/relu/Relu
不支持(导入) ONNX 运算类型的 TIDL 层类型--异径测量
支持的 TIDL 层类型-- Conv --/model/head/cp/conv_avg/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/cp/conv_avg/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/cp/arm32/conv/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/cp/arm32/conv/relu/Relu
不支持(导入) ONNX 运算类型的 TIDL 层类型--异径测量
支持的 TIDL 层类型-- Conv --/model/head/cp/arm32/conv_atten/Conv
支持的 TIDL 层类型-- Sigmoid --/model/head/cp/arm32/Sigmoid
不支持(TIDL 检查) TIDL 层类型--多路复用器
不支持的(TIDL 检查) TIDL 层类型--添加
支持的 TIDL 层类型--大小调整--/model/head/cp/up32/Resize
支持的 TIDL 层类型-- Conv --/model/head/cp/conv_head32/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/cp/conv_head32/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/cp/arm16/conv/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/cp/arm16/conv/relu/Relu
不支持(导入) ONNX 运算类型的 TIDL 层类型--异径测量
支持的 TIDL 层类型-- Conv --/model/head/cp/arm16/conv_atten/Conv
支持的 TIDL 层类型-- Sigmoid --/model/head/cp/arm16/Sigmoid
不支持(TIDL 检查) TIDL 层类型--多路复用器
支持的 TIDL 层类型--添加--/model/head/cp/Add_1
支持的 TIDL 层类型--大小调整--/model/head/cp/up16/Resize
支持的 TIDL 层类型-- Conv --/model/head/cp/conv_head16/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/cp/conv_head16/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/sp/conv1/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/sp/conv1/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/sp/conv2/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/sp/conv2/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/sp/conv3/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/sp/conv3/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/sp/conv_out/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/sp/conv_out/relu/Relu
支持的 TIDL 层类型-- Concat --/model/head/ffm/Concat
支持的 TIDL 层类型-- Conv --/model/head/ffm/convblk/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/ffm/convblk/relu/Relu
不支持(导入) ONNX 运算类型的 TIDL 层类型--异径测量
支持的 TIDL 层类型-- Conv --/model/head/ffm/conv/Conv
支持的 TIDL 层类型-- Sigmoid --/model/head/ffm/Sigmoid
不支持(TIDL 检查) TIDL 层类型--多路复用器
支持的 TIDL 层类型--添加--/model/head/ffm/Add
支持的 TIDL 层类型-- Conv --/model/head/conv_out/conv/conv/Conv
支持的 TIDL 层类型-- Relu --/model/head/conv_out/conv/relu/Relu
支持的 TIDL 层类型-- Conv --/model/head/conv_out/conv_out/Conv
支持的 TIDL 层类型--大小调整--/model/head/conv_out/up/Resize
支持的 TIDL 层类型-- Sigmoid --/sigmoid/Sigmoid

创建的初始子图= 8
创建的子图的最终数量为：8，-卸载节点-83，节点总数-91
TIDL 不支持的图层类型--图层类型--异径管，节点名称-/model/head/cp/ReduceMean
TIDL 不支持的图层类型--图层类型--异径管，节点名称-/model/head/cp/arm32/ReduceMean
ALLOWLISTING：添加图层：如果要添加图层的输入都不是常量，则仅支持元件添加运算符--文件信息- tidl_import_common_model_check.cpp，TIDL_checkAddAndMulTensorProperties，236
ALLOWLISTING：添加图层：如果要添加图层的输入都不是常量，则仅支持元件添加运算符--文件信息- tidl_import_common_model_check.cpp，TIDL_checkAddAndMulTensorProperties，236
信息--[TIDL_ResizeLayer]任何2的幂大于4的调整比例都将通过4x4调整图层和2x2调整图层的组合来放置。 例如、8x8的大小将替换为4x4的大小调整、后跟2x2的大小调整。
TIDL 不支持的图层类型--图层类型--异径管，节点名称-/model/head/cp/arm16/ReduceMean
ALLOWLISTING：添加图层：如果要添加图层的输入都不是常量，则仅支持元件添加运算符--文件信息- tidl_import_common_model_check.cpp，TIDL_checkAddAndMulTensorProperties，236
信息--[TIDL_ResizeLayer]任何2的幂大于4的调整比例都将通过4x4调整图层和2x2调整图层的组合来放置。 例如、8x8的大小将替换为4x4的大小调整、后跟2x2的大小调整。
TIDL 不支持的图层类型--图层类型--异径管，节点名称-/model/head/ffm/ReduceMean
ALLOWLISTING：添加图层：如果要添加图层的输入都不是常量，则仅支持元件添加运算符--文件信息- tidl_import_common_model_check.cpp，TIDL_checkAddAndMulTensorProperties，236
建议--[TIDL_ResizeLayer]调整内核大小(非2个调整比例的幂)不是最佳选择。
运行运行时 graphviz -$｛my_local_folder｝/edgeai-tidl-tools/tidl_tools/tidl_graphVisualizer_runtimes.out ./artifacts/allowedNode.txt ./artifacts/tempDir/graphvizInfo.txt ./artifacts/tempDir/runtimes_visualization.svg
***在 TIDL_createStateImportFunc 中***
计算节点：TIDLExecutionProvider_TIDL_0_0
0、CONV、3、1、输入、 /model/backbone/input/input.0/Conv_output_0
1、Relu、1、1、/model/backbone/input/input.0/Conv_output_0、 /model/backbone/input/input.2/Relu_output_0
2、MaxPool、1、1、/model/backbone/input/input.2/Relu_output_0、 /model/backbone/input/input.3/MaxPool_output_0
3、Conv、3、1、/model/backbone/input/input.3/MaxPool_output_0、 /model/backbone/layer1/layer1.0/conv1/Conv_output_0
4、Relu、1、1、/model/backbone/layer1/layer1.0/conv1/Conv_output_0、 /model/backbone/layer1/layer1.0/relu/Relu_output_0
5、Conv、3、1、/model/backbone/layer1/layer1.0/relu/Relu_output_0、 /model/backbone/layer1/layer1.0/conv2/Conv_output_0
6、ADD、2、1、/model/backbone/layer1/layer1.0/conv2/Conv_output_0、 /model/backbone/layer1/layer1.0/Add_output_0
7、Relu、1、1、/model/backbone/layer1/layer1.0/Add_output_0、 /model/backbone/layer1/layer1.0/relu_1/Relu_output_0
8、Conv、3、1、/model/backbone/layer1/layer1.0/relu_1/Relu_output_0、 /model/backbone/layer1/layer1.1/conv1/Conv_output_0
9、Relu、1、1、/model/backbone/layer1/layer1.1/conv1/Conv_output_0、 /model/backbone/layer1/layer1.1/relu/Relu_output_0
10、Conv、3、1、/model/backbone/layer1/layer1.1/relu/Relu_output_0、 /model/backbone/layer1/layer1.1/conv2/Conv_output_0
11、ADD、2、1、/model/backbone/layer1/layer1.1/conv2/Conv_output_0、 /model/backbone/layer1/layer1.1/Add_output_0
12、Relu、1、1、/model/backbone/layer1/layer1.1/Add_output_0、 /model/backbone/layer1/layer1.1/relu_1/Relu_output_0
13、Conv、3、1、/model/backbone/layer1/layer1.1/relu_1/Relu_output_0、 /model/backbone/layer2/layer2.0/conv1/Conv_output_0
14、Relu、1、1、/model/backbone/layer2/layer2.0/conv1/Conv_output_0、 /model/backbone/layer2/layer2.0/relu/Relu_output_0
15、Conv、3、1、/model/backbone/layer2/layer2.0/relu/Relu_output_0、 /model/backbone/layer2/layer2.0/conv2/Conv_output_0
16、Conv、3、1、/model/backbone/layer1/layer1.1/relu_1/Relu_output_0、 /model/backbone/layer2/layer2.0/downsample/downsample.0/Conv_output_0
17、ADD、2、1、/model/backbone/layer2/layer2.0/conv2/Conv_output_0、 /model/backbone/layer2/layer2.0/Add_output_0
18、Relu、1、1、/model/backbone/layer2/layer2.0/Add_output_0、 /model/backbone/layer2/layer2.0/relu_1/Relu_output_0
19、Conv、3、1、/model/backbone/layer2/layer2.0/relu_1/Relu_output_0、 /model/backbone/layer2/layer2.1/conv1/Conv_output_0
20、Relu、1、1、/model/backbone/layer2/layer2.1/conv1/Conv_output_0、 /model/backbone/layer2/layer2.1/relu/Relu_output_0
21、Conv、3、1、/model/backbone/layer2/layer2.1/relu/Relu_output_0、 /model/backbone/layer2/layer2.1/conv2/Conv_output_0
22、ADD、2、1、/model/backbone/layer2/layer2.1/conv2/Conv_output_0、 /model/backbone/layer2/layer2.1/Add_output_0
23、Relu、1、1、/model/backbone/layer2/layer2.1/Add_output_0、 /model/backbone/layer2/layer2.1/relu_1/Relu_output_0
24、Conv、3、1、/model/backbone/layer2/layer2.1/relu_1/Relu_output_0、 /model/backbone/layer3/layer3.0/conv1/Conv_output_0
25、Relu、1、1、/model/backbone/layer3/layer3.0/conv1/Conv_output_0、 /model/backbone/layer3/layer3.0/relu/Relu_output_0
26、Conv、3、1、/model/backbone/layer3/layer3.0/relu/Relu_output_0、 /model/backbone/layer3/layer3.0/conv2/Conv_output_0
27、Conv、3、1、/model/backbone/layer2/layer2.1/relu_1/Relu_output_0、 /model/backbone/layer3/layer3.0/downsample/downsample.0/Conv_output_0
28、ADD、2、1、/model/backbone/layer3/layer3.0/conv2/Conv_output_0、 /model/backbone/layer3/layer3.0/Add_output_0
29、Relu、1、1、/model/backbone/layer3/layer3.0/Add_output_0、 /model/backbone/layer3/layer3.0/relu_1/Relu_output_0
30、Conv、3、1、/model/backbone/layer3/layer3.0/relu_1/Relu_output_0、 /model/backbone/layer3/layer3.1/conv1/Conv_output_0
31、Relu、1、1、/model/backbone/layer3/layer3.1/conv1/Conv_output_0、 /model/backbone/layer3/layer3.1/relu/Relu_output_0
32、Conv、3、1、/model/backbone/layer3/layer3.1/relu/Relu_output_0、 /model/backbone/layer3/layer3.1/conv2/Conv_output_0
33、ADD、2、1、/model/backbone/layer3/layer3.1/conv2/Conv_output_0、 /model/backbone/layer3/layer3.1/Add_output_0
34、Relu、1、1、/model/backbone/layer3/layer3.1/Add_output_0、 /model/backbone/layer3/layer3.1/relu_1/Relu_output_0
35、Conv、3、1、/model/backbone/layer3/layer3.1/relu_1/Relu_output_0、 /model/head/cp/arm16/conv/conv/Conv_output_0
36、Relu、1、1、/model/head/cp/arm16/conv/conv/Conv_output_0、 /model/head/cp/arm16/conv/relu/Relu_output_0
37、ReduceMin、1、1、/model/head/cp/arm16/conv/relu/Relu_output_0、 /model/head/cp/arm16/ReduceMean_output_0
38、Conv、3、1、/model/head/cp/arm16/ReduceMean_output_0、 /model/head/cp/arm16/conv_atten/Conv_output_0
39、Conv、3、1、输入、 /model/head/sp/conv1/conv/Conv_output_0
40、Relu、1、1、/model/head/sp/conv1/conv/Conv_output_0、 /model/head/sp/conv1/relu/Relu_output_0
41、Conv、3、1、/model/head/sp/conv1/relu/Relu_output_0、 /model/head/sp/conv2/conv/Conv_output_0
42、Relu、1、1、/model/head/sp/conv2/conv/Conv_output_0、 /model/head/sp/conv2/relu/Relu_output_0
43、Conv、3、1、/model/head/sp/conv2/relu/Relu_output_0、 /model/head/sp/conv3/conv/Conv_output_0
44、Relu、1、1、/model/head/sp/conv3/conv/Conv_output_0、 /model/head/sp/conv3/relu/Relu_output_0
45、Conv、3、1、/model/head/sp/conv3/relu/Relu_output_0、 /model/head/sp/conv_out/conv/Conv_output_0
46、Relu、1、1、/model/head/sp/conv_out/conv/Conv_output_0、 /model/head/sp/conv_out/relu/Relu_output_0

输入传感器名称-输入
输出传感器名称-/model/head/sp/conv_out/relu/Relu_output_0
输出传感器名称-/model/backbone/layer3/layer3.1/relu_1/Relu_output_0
输出传感器名称-/model/head/cp/arm16/conv/relu/Relu_output_0
输出传感器名称-/model/head/cp/arm16/conv_atten/Conv_output_0
***在 TIDL_createStateImportFunc 中***
计算节点：TIDLExecutionProvider_TIDL_1_1
0、Conv、3、1、/model/backbone/layer3/layer3.1/relu_1/Relu_output_0、 /model/backbone/layer4/layer4.0/conv1/Conv_output_0
1、Relu、1、1、/model/backbone/layer4/layer4.0/conv1/Conv_output_0、 /model/backbone/layer4/layer4.0/relu/Relu_output_0
2、Conv、3、1、/model/backbone/layer3/layer3.1/relu_1/Relu_output_0、 /model/backbone/layer4/layer4.0/downsample/downsample.0/Conv_output_0
3、Mul、2、1、/model/head/cp/arm16/conv/relu/Relu_output_0、 /model/head/cp/arm16/Mul_output_0
***检测到缓冲区溢出***: Python 已终止
已中止(转储内核)

===

你(们)好  
您似乎正在按照 https://github.com/TexasInstruments/edgeai-tidl-tools 导入模型。 此工具现在仅支持 TDA4VM&AM62a。 根据您的日志、存在需要解决的扭曲问题"无法打开./artifacts/allowedNode.txt 进行读取... 整个模型将在 ARM 上运行、而不会对 TIDL 进行任何委派！"。 它表示 C7X&M 上的所有层都不会加速。 因此、 为了加速 CNN 推理、我们需要使用独立的 TIDL 来部署您的模型。 参考以下指南： https://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-jacinto7/08_02_00_05/exports/docs/tidl_j721e_08_02_00_11/ti_dl/docs/user_guide_html/md_tidl_model_import.html

你(们)好

我使用 edgeeai-tiddl-tools 成功转换和运行 TDA4上的另一个模型。 但是 BiSeNet 仍然无法转换，谢谢！

您好、Sonhua、

请使用 TDA4相关工具进行开发。 不保证为一个 SOC 开发的工具可以直接用于另一个 SOC。 将关闭此 TT、如果在使用 TDA4工具时出现任何问题、请提交新 TT。 谢谢。

BR、Tommy