[参考译文] AM68A：使用 TIDL 编译的 QAT v2 培训后编译问题

Other Parts Discussed in Thread: AM68A

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1662672/am68a-qat-v2-training-post-training-compilation-issues-using-tidl-compilation

部件号： AM68A

您好、  

我目前正在部署一个自定义 BEVDet 模型、该模型已在 AM68A 开发板上使用 QAT v2 进行训练。 我正在使用最低级别的 C++导入工具 (tidl_model_import.out)、并使用.txt 配置文件手动对其进行编译。

模型已导出为 onnx 格式、输入为 NV12 格式的.bin 映像。

根据官方文档、QAT 模型应绕过 PTQ 的高级校准功能、直接使用模型本身提供的量化参数。

1. 我想知道我在.txt 中的配置是否正确： 
2. 测试完成后、当 numFramesBiasCalibration 设置为 0 时、尽管编译成功并生成了 corresponding.bin 和.out 文件、但电路板上的推理失败。 电路板末端的错误消息如下所示：
3. 此外、当 inElementType 的值设置为 6 时、编译成功、但电路板端仍报告相同的错误。 当 inElementType 的值设置为 0 时、编译和推理都将顺利进行。 但是、我的 ONNX 模型的输入确实是 float32 类型、inElementType 应该设置为 6。
4. 当 numFramesBiasCalibration 设置为 0 时、编译成功、但推理包中在电路板结束时会发生相同的错误 当 numFramesBiasCalibration 设置为 1 时、编译和推理都成功、但准确性显著降低。 此时是否执行了 PTQ？

芯片架构：AM68A (J721S2)  
SDK 版本：edgeai-tidl-tools-11_00_06_0  
编译工具：tidl_model_import.out

期待您的帮助。