This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
https://e2e.ti.com/support/tools/simulation-hardware-system-design-tools-group/sim-hw-system-design/f/simulation-hardware-system-design-tools-forum/1256628/am62a-quantition
当与 fp32中训练的模型比较时、 AM62A 中的分位模型有以下问题：
陷印模式抖动的边界邮件大小,而 fp32模式保持稳定。
结果如下所示。
Hell Shuai Wang、
感谢您的提问。 您是否还可以使用16位量化方法来尝试它并共享其结果？ 这是诊断量化相关精度的良好第一步。
假设16位量化的精度很好、我们可以使用混合量化、因此在关键层上选择性地使用16位-通常是第一个和/或最后一个卷积层。 我们在启用 yolov5时进行了类似的分析： https://www.ti.com/video/6286792047001
另请参阅以下文档- debug_level 4将提供浮点和定点跟踪。
https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_osr_debug.md#feature-map-comparison-with-reference
此致！ 雷塞
