工具/软件:
您好、
我们发现 x86 仿真和 产品板的模型输出不同。 我们共享模型和输入。 我们使用 tidl 0902 量化和转换模型。 我希望 ti 可以帮助我们修复此 problem.e2e.ti.com/.../shareti.zip
This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
工具/软件:
您好、
我们发现 x86 仿真和 产品板的模型输出不同。 我们共享模型和输入。 我们使用 tidl 0902 量化和转换模型。 我希望 ti 可以帮助我们修复此 problem.e2e.ti.com/.../shareti.zip
尊敬的 Zhenzhou:
您可以尝试不同的量化选项: https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_fsg_quantization.md#b2-advanced-calibration 它对不同模型有不同的影响。
如果您可以发现哪个层会导致主要损耗、您也可以尝试将某些层设置为 16 位。
此致、
Adam