This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:推理基准统计信息

Guru**** 2468610 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1469011/tda4vm-inference-benchmarking-statistics

器件型号:TDA4VM

工具与软件:

您好!

由于问题没有解决,我重新发布我的问题: https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1445132/tda4vm-inference-benchmarking-statistics---ddr-bw-per-image

在云或 EVM 上执行推理时、我一直观察到每个图像的 DDR 使用率非常高、而我的同事在两年前报告仅为0MB。

我在云和 EVM 上都尝试过各种模型、总是得到很高的结果。

云上运行

模式

相同型号的旧结果:  

这些结果是否是典型结果、或者 edgeai_tidl_tools 的计算方法尚未更新?

谢谢。此致、

Azer

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Azer:

    当运行 VCLS-TFL-ARM.ipynb 时、您是否看到过此结果? 只在 Cortex A**上运行模型与在异构模式下运行模型时、应该会看到不同之处。

    谢谢!

    Fabiana

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Fabiana:  

    当在 模型分析器( TI.com )上运行 VCLS-TFL-ARM.ipynb 时,我仍然在 ARM 上得到这个结果:  

    然后,是的,我没有这个问题 在异构模式,我得到一个正确的结果:  

    谢谢!  

    Azer

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Azer:

    这是预期的输出。 该处理由 CPU (ARM Cortex-A 内核)完成、后者更擅长处理通用和 OS 类型功能。 激活深度学习加速器 后、应用能够像异构模式那样高效运行(Cortex A + TIDL 卸载)。

    谢谢!

    Fabiana