工具与软件:
您好!
在云或 EVM 上执行推理时、我一直观察到每个图像的 DDR 使用率非常高、而我的同事在两年前报告仅为0MB。
我在云和 EVM 上都尝试过各种模型、总是得到很高的结果。
云上运行

模式

相同型号的旧结果:

这些结果是否是典型结果、或者 edgeai_tidl_tools 的计算方法尚未更新?
谢谢。此致、
Azer
This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
工具与软件:
您好!
在云或 EVM 上执行推理时、我一直观察到每个图像的 DDR 使用率非常高、而我的同事在两年前报告仅为0MB。
我在云和 EVM 上都尝试过各种模型、总是得到很高的结果。
云上运行

模式

相同型号的旧结果:

这些结果是否是典型结果、或者 edgeai_tidl_tools 的计算方法尚未更新?
谢谢。此致、
Azer
您好!
我在 EVM 和云上获得相同的结果、因此我现在将详细说明如何通过云获得此结果。
下面是我使用的模型:/home/root/edgeai-modelzoo/models/vision/classification/imagenet1k/mlperf/mobilenet_v1_1.0_224.tflite.
我启动修改后的 VCLs-TFL 笔记本、以仅在 ARM 上运行。

然后使用下面的代码,我得到基准测试结果:
from scripts.utils import plot_TI_performance_data, plot_TI_DDRBW_data, get_benchmark_output, print_soc_info
stats = interpreter.get_TI_benchmark_data()
fig, ax = plt.subplots(nrows=1, ncols=1, figsize=(10,5))
plot_TI_performance_data(stats, axis=ax)
plt.show()
tt, st, rb, wb = get_benchmark_output(stats)
print_soc_info()
print(f'{selected_model_id.label} :')
print(f' Inferences Per Second : {1000.0/tt :7.2f} fps')
print(f' Inference Time Per Image : {tt :7.2f} ms')
print(f' DDR usage Per Image : {rb+ wb : 7.2f} MB')

我在 EVM 和其他模型上也做同样的操作。
此致、谢谢
Flora
尊敬的 Azer:
我已回复有关此问题的新主题: https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1469011/tda4vm-inference-benchmarking-statistics
我希望这能解答您的问题。 如果没有、让我们在新主题中继续讨论。
谢谢!
Fabiana