使用的sdk 0701,官方文档里对量化的描述比较模糊,量化过程发生在 tidlModelImport工具对模型进行转换的过程中吗?
我对转换后的int8模型调用PC_dsp_test_dl_algo.out工具对图片进行推理,解析的推理结果和onnx的推理结果存在一个系数差。
量化脚本:
modelType = 2
numParamBits = 8
numFeatureBits = 8
inputNetFile = "../../test/testvecs/collate/fs_noCoord/models/fs_noCoord.onnx"
outputNetFile = "../../test/testvecs/collate/fs_noCoord/infer/8/tidl_net_fs_noCoord.bin"
outputParamsFile = "../../test/testvecs/collate/fs_noCoord/infer/8/tidl_io_fs_noCoord_"
inDataNorm = 1
inMean = 123.675 116.28 103.53
inScale = 0.017125 0.017507 0.017429
resizeWidth = 480
resizeHeight = 480
inWidth = 480
inHeight = 480
inNumChannels = 3
inData = ../../test/testvecs/collate/fs_noCoord/calib_list.txt
postProcType = 0
int8模型的推理结果:
-33.00000000
-41.00000000
-42.00000000
-40.00000000
-41.00000000
-32.00000000
-27.00000000
-22.00000000
-25.00000000
-37.00000000
...
onnx的推理结果:
-14.12847805
-17.56087685
-18.81339073
-17.77967834
-18.89683342
-14.82417774
-13.74363136
-11.10289955
-12.24503803
-17.49886703
....
很明显int8的推理结果和onnx的推理结果存在一个系数差。
请问最后模型输出的结果,需要的系数怎么获取,才能转换为float模型输出的结果?
