This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

TDA4VM: 量化模型偏差抖动比较大

Part Number: TDA4VM


你好:

我们现在在TDA4上开发遇到以下问题:

1. Centernet 模型使用QAT 训练后转为onnx模型(使用的主干网络是Centernet官网提供的resnet34), 使用TIDL8.0推理后没有结果输出,并且我是按照官方指导配置文件 设置 quantizationStyle = 3 , quantization. calibrationOption = 64 。

2. centernet模型使用PTQ量化方式去量化模型, 预测出中心点的位置有偏差,抖动比较大。

请问一下这个怎么解决呢?