[参考译文] TDA4VM-Q1：在 EVM 板上使用已导入的 edgeai-Benchmark 工件

您好 James、

用于 J721E EVM 的 PSDK RTOS 和用于 SK-TDA4VM 的边缘 AI SDK 上使用的运行时存在一些差异(即 PSDK RTOS 使用 TIDM-RT、而边缘 AI SDK 使用 OSRT、例如 ONNX、Tensorflow Lite、TVM/Neo)。  

我能否在下周回来与您讨论一下可在 PSDK RTOS 中使用的 edgeai-Benchmark 中的模型吗？  

此致、

Takuma

是的、我们很高兴听到有关如何在 PSDK RTOS 版本中使用这些模型的更新消息。

谢谢你。

从我们到目前为止看到的情况来看、edgeai-Benchmark 生成的工件似乎与在 PSDK RTOS DL 应用程序中运行它们的代码不兼容。 (到目前为止、我们主要关注对象检测。)

此外、我们还注意到、对于 PSDK RTOS、我们必须手动指定一组设置、而对于 edgeai-Benchmark、它具有一组用于这些设置的预设。  在 SK-TDA4VM EdgeAI 板上运行时显然设置了哪些选项？  不过、我们确实了解了如何在流水线设置中更改某些变量。

因此、如果有支持这两种用例(EVM 和边缘 AI)的路线图、我们希望获得更多信息。

谢谢、

James

尊敬的 James：

对拖延表示歉意。 我已经获得了一直致力于创建这些工具的工程师的响应。  

使用 edgeeai-Benchmark 创建的模型可与 PSDK RTOS 一起使用。 然而、PSDK RTOS 中使用的运行时、TIDM-RT、只能使用完全受支持的模型(它不能卸载到 ARM)。 如果使用 edgeai-tidl 工具或 edgeai-benchmark 编译模型、并且所有层都卸载到硬件加速器和 DSP 内核、则 TIDM-RT 也可以使用这些工件。

此致、

Takuma  

感谢您的回答。

我们已经找到了针对 TVM 和 ONNX 运行时间禁用到 ARM 的卸载的方法、但无法找到针对 TFLite 运行时禁用它的方法。

您能否指定在 TFLite 运行时禁用 ARM 卸载所需的更改？

你好、Takuma、

感谢你的答复。

我们在内部讨论了这一点、并将继续使用 PSDK RTOS 的模型导入程序和边缘 AI SDK 的 eZeai-tidl-tools。 我们最终将把所有开发整合在一个平台上。

此致、

James