This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:支持申请:无需云依赖项的 YOLOv8板载部署

Guru**** 2362860 points
Other Parts Discussed in Thread: TDA4VM
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1506601/tda4vm-support-request-yolov8-deployment-on-board-without-cloud-dependency

器件型号:TDA4VM

工具/软件:

尊敬的德州仪器(TI)支持团队:

我目前正在从事一个与政府有关的保密项目、并且有一个 TDA4VM 一起使用。 目标是部署 基于 YOLOv8的物体检测模型 严重的问题。 查看可用的文档和资源后、我仍然有一些具体问题、希望您能提供以下方面的帮助:

  1. 原生 YOLOv8推理支持
    CAN YOLOv8模型可直接用于上的推理 TDA4VM 电路板而不进行转换?
    如果是:

    • 运行此类模型(例如使用 OpenCV)的建议方法是什么?

    • 在推理过程中、预期的 FPS 是什么?

  2. 无需云访问的模型量化
    我遇到 了 edgeai-tidl-tools 存储库 、其中概述了基于云的模型训练、量化和校准流程。
    出于安全策略的考虑、我 无法使用任何基于云的服务 用于训练或部署。

    • 是否有可能 在主机上训练、量化和校准 YOLOv8模型 无需互联网访问或云依赖项?

    • 如果是、您能否分享支持此流程的步骤或文档?

  3. 板上的 GUI 支持
    与相同 TDA4VM 电路板目前在无外设 Linux shell 环境中运行:

    • 是否有方法可以启用和运行 构建的示例 这款电路板上?

    • 如果是、您能指导我所需的步骤或工具吗?

  4. 自定义应用程序开发
    我打算构建一个自定义应用、用于连接摄像头并执行基于 YOLO 的物体检测。

    • 你有任何疑问吗 参考流水线、示例或文档 是否需要构建和部署此类应用程序?

  5. 操作系统兼容性(Ubuntu 20.04 / 22.04)
    我了解电路板支持特定的操作系统、但这只是为了确认:

    • 是否可以在上运行 Ubuntu 20.04或22.04  TDA4VM 评估板?

  6. 在不使用 Edge AI Studio 的情况下进行模型转换
    是否有任何替代方法来转换模型 不使用 Edge AI Studio

    • 如果是、您能否提供指导或工具来支持?

    • 如果否、请在此电子邮件主题中提及原因。

我非常感谢您的支持、帮助我继续为该项目进行脱机、安全和高效的部署。

期待您的答复。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Sanyam:

    请给我一些时间来调查您的所有问题。 我们会尽快做出响应。

    此致、

    Christina

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Sanyam:

    在线回答...

    1. 原生 YOLOv8推理支持
      CAN YOLOv8模型可直接用于上的推理  TDA4VM  电路板而不进行转换?
      如果是:

      • 运行此类模型(例如使用 OpenCV)的建议方法是什么?

      • 在推理过程中、预期的 FPS 是什么?

        不需要、它们需要先量化为8或16位。  
    2. 无需云访问的模型量化
      我遇到 了 edgeai-tidl-tools 存储库 、其中概述了基于云的模型训练、量化和校准流程。
      出于安全策略的考虑、我  无法使用任何基于云的服务  用于训练或部署。

    3. 板上的 GUI 支持
      与相同  TDA4VM  电路板目前在无外设 Linux shell 环境中运行:

      • 是否有方法可以启用和运行  构建的示例  这款电路板上?

        这些演示基于 GUI、但不支持模型开发和部署
      • 如果是、您能指导我所需的步骤或工具吗?

      • 这需要 Linux 知识、设置菜单和显示器。  E2E 帖子的预期之外。  
    4. 自定义应用程序开发
      我打算构建一个自定义应用、用于连接摄像头并执行基于 YOLO 的物体检测。

      • 你有任何疑问吗  参考流水线、示例或文档  是否需要构建和部署此类应用程序?

      • 是的、示例位于 edgeai-tidl-tools 中。  这是一个常见的用例。
    5. 操作系统兼容性(Ubuntu 20.04 / 22.04)
      我了解电路板支持特定的操作系统、但这只是为了确认:

      • 是否可以在上运行 Ubuntu 20.04或22.04  TDA4VM  评估板?

        不是来自 TI 的、我想可以自行移植 Ubuntu。
    6. 在不使用 Edge AI Studio 的情况下进行模型转换
      是否有任何替代方法来转换模型  不使用 Edge AI Studio

      • 如果是、您能否提供指导或工具来支持?

        同样、您可以从 edgeai-tidl-tools 开始。  建议的交换格式为 ONNX、但 TFLits 也可以使用。  我首先在 examples/osrt_python/model_config.py 中添加您的模型、然后通过 examples/osrt_python/ort 运行您的模型。  使用 python3 ./onnxrt_ep.py -c -m 编译。
      • 如果否、请在此电子邮件主题中提及原因。

    此致、

    Chris