[参考译文] TDA4VH-Q1：TIDL + TIOVX：YOLOv7n 编译覆盖和放大器；ARM 上不支持的层执行

尊敬的 Jayachandran：

q1) 在 TIDL 编译 YOLOv7n 期间、如何最大限度地提高层/运算符支持？

模型中的所有图层都必须由 tidl 运算符支持。

默认情况下、如果您 edgeai-tidl-tools、则在模型编译过程中、它将尝试优化模型、以在 tidl 上尽可能支持。 但可能有一些临界情况、它们可能无法完全支持 tidl。
在这种情况下、您可能需要在编译前手动修改模型。

为避免这种 情况、您可以使用 edgeai-modelzoo 中提供的模型、tidl 中开箱即用支持的模型列表。 您可以从那里选择一个模型并使用它。 我想 yolov7 也可以在 modelzoo 中使用。

q2) 对于仍然不受支持的层、在 TIOVX 图形中的 ARM 上运行它们的正确方法是什么？

您可以在基于 osrt 的运行时（如 tflite 或 onnx）中执行此 ARM 委派、这些运行时将负责将不受支持的层卸载到 ARM、并将受支持的层卸载到 c7x DSP。

但 tivxTIDLNode 不支持此特性。 仅当 c7x 支持所有层时、才可以使用基于 tiovx 的应用程序。

对于类似 YOLO 的流水线、TIOVX 中的推荐节点链是什么？ 例如：

您可以参考 vision_apps 中的 app_tidl_od、app_tidl_fron_cam 演示。  https://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-jacinto7/11_01_00_04/exports/docs/vision_apps/docs/user_guide/group_apps_dl_demos_app_tidl_od.html

tivxDLPreProc→tivxTIDLNode→arm post-proc (NMS/Decode) 作为自定义内核→图的其余部分。
是否有用于后处理（解码/NMS）的内置节点、或者 Post-proc 是否应该作为自定义内核保留在 ARM 上？

有关更多详细信息、请参阅以下链接： https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/od_meta_arch.md

此致、
Gokul