SK-TDA4VM: 在pc端用python版本的推理代码推理得到的结果和板子端推理得到的结果完全不一样

已为您咨询TI工程师，一旦得到回复会立刻回复给您

您可以在板端的 /opt/edgeai-tidl-tools 中执行 git log 以查看正在使用哪个标记版本的 edgeai-tidl-tools吗？除此之外，请您尝试在不卸载到硬件加速器的情况下运行模型。

可能是量化后精度下降，以允许模型部署在硬件加速器上。例如，在我们的以下示例中，准确性和速度存在显着差异：https://dev.ti.com/tirex/explore/node?node=A__ADfCsvk39hxg0V35TzXtTA__com.ti.Jacinto%20EdgeAI%20Academy__Y9QU2Ei__LATEST

我用的是0802版本的，目前在pc端使用这两条命令推理我们的模型得到的结果都没有问题：

python3 onnxrt_ep.py

python3 onnxrt_ep.py -d

onnxrt_ep.py是修改过的以推理我们的模型。在pc端使用修改过的c++代码onnx_main.cpp推理我们的模型结果也没有问题。而在板端使用相同的c++代码和python代码推理我们的模型结果是完全错误的。但是在板端使用相同的代码推理官方提供的模型结果没有问题，请问这是什么原因呢？该怎么解决？

已将您的疑问转达至TI工程师，您也可以关注E2E原帖(1) SK-TDA4VM: The results obtained by inferring with the python version of the inference code on the PC side are completely different from those obtained by inferring on the board side. - Processors forum - Processors - TI E2E support forums了解最新进展

您能否将模型和任何代码更改发送给我们，以便我们可以在我们这边重现该问题？如果需要保密，您可以通过电子邮件或其他方式将它们发送过来。