This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] AM68A:咨询:AM6xA 和 TDA4/5 系列的生成性 AI 和 LLM/VLM 支持路线图

Guru**** 2862450 points

Other Parts Discussed in Thread: AM68A, AM69A, AM67A

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1638589/am68a-inquiry-generative-ai-and-llm-vlm-support-roadmap-for-am6xa-and-tda4-5-series

部件号: AM68A
主题中讨论的其他器件: AM69AAM67A

 

尊敬的 E2E 团队

​希望这封电子邮件对您有帮助。

​我们目前正在为即将开展的项目(涉及)评估高性能处理器 边缘生成 AI 、包括 LLM(大型语言模型) VLM(视觉语言模型)

​为了优化我们的硬件选择和开发策略、我们希望获得有关的支持路线图的详细信息 SitaraTm AM62A、AM67A、AM68A、AM69A 、和 TDA4/TDA5 探讨。

​具体而言、我们对以下内容感兴趣:

  1. GenAI 优化: 这些 SoC 上的生成式 AI 框架(例如量化工具,模型压缩)目前和计划提供的支持。
  2. LLM/VLM 实现: 在边缘运行轻量级 LLM(例如 Llama-3、PHI-3)或 VLM 的能力和性能基准。
  3. 软件栈路线图: 针对 Processor SDK 或 AI Tooling (Edge AI Studio、TIDL) 进行了计划更新、以支持基于变压器的架构。
  4. 硬件加速: AM6xA 或 TDA4/5 系列中针对注意机制或大规模张量操作进行优化的任何特定硬件加速功能。

​您能否提供有关这些主题的任何可用白皮书、路线图演示文稿或技术文档? 如果可能、我们还希望举行一次简短的会议、讨论 TI 如何支持我们的特定 GenAI 用例。

​感谢您的时间和专业支持。

​此致、

插孔

 

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Jack、

    您能否就这些问题联系当地的现场支持人员?  

    此致、

    Brijesh