This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] AM5748:TIDL:性能基准和评估?

Guru**** 657500 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/791656/am5748-tidl-performances-benchmarks-and-evaluation

器件型号:AM5748

团队、

以下是我在 Processor SDK 5.03中找到的有关 TIDL 软件的资源:

http://software-dl.ti.com/processor-sdk-linux/esd/docs/latest/linux/Foundational_Components_TIDL.html
http://downloads.ti.com/mctools/esd/docs/tidl-api/#
http://www.ti.com/tool/TIDEP-01004
https://training.ti.com/deep-learning-tidl-overview

要开始评估、请回答一些问题:

-是否有方法仅在 PC 上重新运行提供的演示?
基本上、我们在 SDK 演示中提供了预先培训的模型。 如何在 PC 上重复使用这些模型以进行基准测试?
是否有一组"开放"基准可用于比较性能(AM572x 与 PC 与其他嵌入式解决方案)?

-是否有方法比较在不同平台 AM572x 与 PC 与其他嵌入式解决方案上运行的相同型号的结果(即量化结果差异)?

-在运行 DL 演示时、是否有办法获取性能信息(C66x 和 EVE %加载、DDR 吞吐量等)使用情况?

-我们是否有一些软件可以重新进行功耗基准测试/测量,以了解不同 DL 演示所需的功耗?

提前感谢、

A.

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    [quote user="AnBer"-是否有方法仅在 PC 上重新运行提供的演示?

    请检查 仿真和仿真工具是否与本页所述相同  

    [引用 USER="AnBer"-是否有方法比较在不同平台 AM572x 与 PC 与其他嵌入式解决方案上运行的相同型号的结果(即量化结果差异)?

    您在此处提到的是精度还是速度?

    [引用 USER="AnBer"]-在运行 DL 演示时,是否有办法获取性能信息(C66x 和 EVE %加载、DDR 吞吐量等)的使用情况?

    EVE 和 DSP 负载可使用 mcBench 工具进行收集。 您可以在/usr/share/ti/tidl/examples/mcbench/scripts 下的 AM57x 文件系统中找到该工具。 如需更多文档、请点击此处-

    [引用 user="AnBer"]我们是否有一些软件可以重新执行功耗基准测试/测量以了解不同 DL 演示所需的功耗?

    满载2xEVE 子系统的功耗约为250MW、满载 DSP 为500MW。 REST 是主机 ARM、DDR 和其他接口的所有功耗。  

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    大家好、Manisha、

    [引用用户="Manisha"]

    AnBer
    -是否有方法比较在不同平台 AM572x 与 PC 与其他嵌入式解决方案上运行的相同型号的结果(即量化结果差异)?

    您在此处提到的是精度还是速度?

    [/报价]

    我指的是所有比较结果的方法(速度、精度等)。
    您知道、在深度学习中、比较不同解决方案使用了什么?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。
    精度损失(由于推理运行期间的定点量化、其他优化)和性能、在评估不同解决方案时通常会比较这两个因素。