工具/软件:
您好、
我正在开发一个在 AM625器件上工作的 C++应用、需要访问该器件的 GPU 以运行模型推理。
是否有任何文档或库可以在应用级别访问 GPU?
此致、
Kaan Akar
This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
嗨、Kaan
我们的 GPU 专家将于5月19日离职
GPU 只能通过标准 API (GLES、OCL、Vulkan)进行访问。 如果 你的 AI 代码使用 GLES 或 Vulkan,那么我相信你可以取得进展。
您好:
如果您的 GPU 专家有空、我想问更多问题。
1)我的主要目标是在另一个部件( GPU 或协处理器)上运行一个小的 YOLO 模型,因为我会将 CPU 用于其他事情。 我是否可以在应用开发级别访问协处理器的 GPU 或 DSP 模块? 如果是、您能否提供相关文档?
2)我还研究了适用于 AM57x 器件的 TI 深度学习工具。 您是否可以建议您使用其他器件在与 AM625类似的价格范围内运行 ML 模型推理应用?
此致、
Kaan Akar
您好、
我真的没有回答这个问题、因为无论您的框架是什么、都必须使用 OpenGL 或 OpenCL 将操作卸载到 GPU。 例如、TFLite 具有以下功能: https://github.com/tensorflow/tensorflow/tree/master/tensorflow/lite/delegates/gpu。 对于#2、请创建另一个线程、我们将保留此 帖子、特定于 GPU。
此致、
Krunal