This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-AM62A:AM62A 9.2 TIDL 工具链的问题

Guru**** 2480255 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1418818/processor-sdk-am62a-issues-with-am62a-9-2-tidl-toolchain

器件型号:PROCESSOR-SDK-AM62A

工具与软件:

在使用 AM62A 9.2 TIDL 工具链时、我们会遇到几个需要支持的问题:

1.二进制推理

在 x86容器中导出 bin 时、使用PCxxx.out进行推理会生成 段故障 . 我们需要将这种 x86仿真方法集成到用于评估的工具链中。

2. QDQ 模型的异常精度

在使用 edgeai-tidl 工具的 QDQ 过程中、我们在 QDQ 之后比较了 ONNX 和 BIN 的输出特性、并发现了差异。 您有任何疑问吗 演示或指导

Parameter Configuration

平台:J7
版本:7.2
Tensor_bits:8
DEBUG_LEVEL:2.
max_num_subgraphs:16
deny_list:""
deny_list:layer_type:''
deny_list:layer_name:''
型号类型:""
精度级别:0
ADVANCE_OPTIONS:CALIBRATION_FRAMES:1.
ADVANCE_OPTIONS:calibration_iterations:1
advanced_options:output_feature_16bit_names_list:''
advanced_options:params_16bit_names_list:''
ADVANCE_OPTIONS:mixed_precision_factor:-1
ADVANCE_OPTIONS:quantization _scale_type:4
ADVANCE_OPTIONS:high_resolution 优化:0
advanced_options:pre_batchnorm_fold:1.
TI_INTERNAL_NC_FLAG:1601
ADVANCE_OPTIONS:ACTIVATION_CLIPING:1.
ADVANCE_OPTIONS:weight_clipping:1.
ADVANCE_OPTIONS:BIAS_CALIBRATION:1.
advanced_options:add_data_convert_ops:3.
ADVANCE_OPTIONS:channel_swe_quantization:0
ADVANCE_OPTIONS:inference_mode:0
advanced_options:num_cores:1
ADVANCE_OPTIONS:prequantized_model:1.

编译错误

编译时mobilenet_v2_lite_wt-v2_qat-v2-wc8-at8_20231120_model.onnx、报告了以下错误:

在 TIDL_runtimesOptimizeNet:LayerIndex = 315、dataIndex = 314无法向上合并均衡- DQ 而不使用初始化器?
错误:第14层、/0_4/Conv:/0_4/Conv_Output_0缺少网络中的输入、无法按主题排序
输入0:/0_4/DequantizeLinear_output_0、dataId=229

推理结果

在简化了 ONNX 模型(含 onnxsim)后、 编译成功、但精度未对齐:

推理图像::airshow.jpg

推理 QDQ ONNX : 0 17.885122军用飞机

推理步骤 : 0 18.246786战斗机,军用飞机

我们希望在这些问题上得到任何帮助或指导。