TDA4VM: 使用edgeai-tidl-tools在TDA4VM上面进行推理,是否执行了硬件加速(C7X和NPU)

Part Number: TDA4VM


背景:

1、使用edgeai-tidl-tools 9.1 版本工具在PC上面进行编译转换,生成对应的net.in io.bin文件

1.png

2、然后将edgeai-tidl-tools 9.1放到板端TDA4VM上面,编译CPP的推理工具edgeai-tidl-tools/examples/tidlrt_cpp

生成对应的推理可执行文件

3、最后在板端进行推理,现象和结果如下:

2.png

 

问题

1、上面的在板端进行的推理,是否执行了硬件加速(C7X和NPU)?

2、为什么推理时间将近200ms,如何进行推理优化?

3、如果推理时间是200ms,感觉硬件并没有加速成功?是这样么?如果是?如何使用或者开启硬件加速?