[参考译文] TDA4VM：特定模型的推理时间有显著差异

admin

Other Parts Discussed in Thread: TDA4VM

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1488469/tda4vm-significant-variation-in-inference-time-for-a-specific-model

器件型号：TDA4VM

工具与软件：

您好！

在对 TDA4VM 上的 ARM 内核进行推理期间、我注意到一些基准测试结果在几个推理之间存在异常差异。

对于"每秒推理次数"、可以有不同之处 4000 fps 这使得结果非常不可靠。

我应该提到的是,我只在特定模型中观察到这些变化,并且推理结果(准确度)每次都保持不变。我想澄清的是、该模型是 tflite 格式。

您能否给我一些潜在的研究方向、以了解这种异常的来源以及如何解决？

使用的 SDK 版本： 10.00.00.05

使用的 Edgeai_tidl_tools 版本：10_00_08_00

谢谢！

Azer

7 个月前

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

尊敬的 Azer：

您能否分享正在使用哪个模型并产生这些不可靠的结果？

谢谢！

Fabiana

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

您好！

不幸的是、我无法共享我的模型。这就是为什么我只要求想法或潜在的研究方向来理解为什么它发生。

谢谢！

Azer

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

尊敬的 Azer：

您是否能够共享模型编译日志或配置？更多的信息将有助于分析。如果您只是寻找研究方向、可以从 edgeai-tidl-tools 文档开始： https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_osr_debug.md

谢谢！

Fabiana

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

您好！

您能告诉我如何在模型推理期间设置 DEBUG_LEVEL = 1选项吗？

对于编译、我将其设置为编译选项、但我看不到任何用于推理的内容。

谢谢。此致、

Azer

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

尊敬的 Azer：

请查看以下文档获取详细说明、如果您有任何后续问题、请告诉我。

https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/README.md

谢谢！

Fabiana

0 admin 7 个月前

TI__Guru**** 2399305 points

请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

请访问 https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/common_utils.py#L73

谢谢！

Fabiana

处理器（参考译文帖）

处理器（参考译文帖）(Read Only)

[参考译文] TDA4VM：特定模型的推理时间有显著差异