工具/软件:
您好、
我试着将模型量化为 8 位。 以下是我要使用的参数:
numParamBits = 8
numFeatureBits = 8
分位数 Style = 3
校准选项= 7
我使用 10、50,100 张图像测试了 3 次不同的迭代、并观察到当我使用 50 张图像后 10 张图像时、结果最好。 当我使用 100 张图片时、我的 F1 分数下降~8%。
我已经仔细检查了测试集中没有明显的分类不平衡。
我使用过其他校准选项 (16、32、13)、但在使用混合精度与 CalibrationOption 作为 7 时、我获得了最佳结果。 我也尝试了不同的量化样式,但我得到了
最佳结果 3.
当我从 32 位移动到 8 位时,会有显著的 F1 分数损失(最佳结果为~20%,即 50 个校准图像)
您能否告诉我、哪些因素导致通过校准获得良好的分数?