This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] AM62A7:技术咨询:智能 AI 无线电开发和放大器;TI Edge AI 解决方案申请

Guru**** 2903660 points

Other Parts Discussed in Thread: AM62A7, SK-AM62A-LP

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1647684/am62a7-technical-consultation-smart-ai-radio-development-ti-edge-ai-solution-request

器件型号: AM62A7
主题中讨论的其他器件: SK-AM62A-LP

尊敬的 TI 应用工程团队:

我们正在评估一个 支持智能 AI 的无线电 项目、并寻找一个 TI 硬件平台来实现集成的 AI 语音交互、同时优化 BOM 成本。

我们正在特别考虑 将 Sitara AM62A7 处理器用于此架构。 请查看我们的核心要求并提供您的建议:

1.核心要求和功能

  • 云连接: 通过 Wi-Fi 连接与主流 AI 云(Gemini、ChatGPT、Doubao 等)连接、实现语音/文本命令交换。

  • 器件上 AI(边缘处理):

    • 离线语音唤醒字和基本命令识别。

    • 脱机 SLM 和 RAG: 本地存储和执行量化 2B 参数小语言模型 (SLM) 和向量数据库、用于脱机客户服务查询。

  • AI 噪声抑制 (AI-NS): 通过软件实施基于 AI 的噪声抑制以提高 SNR、通过消除专用外部 DSP 或复杂的麦克风阵列来降低硬件成本。

2、技术咨询和模型验证

  • AM62A7 适用性:AM62A7 上的 2TOPS C7x NPU 和 LPDDR4 子系统能否 足够支持量化 2B SLM 和 Whisper Tiny、并具有可接受的推理延迟?

  • 开发生态系统: TI Edge AI Studio 是否提供了边缘优化或模型量化工具来缩短我们的时间线?

3.请求的资源

  1. SK-AM62A-LP 评估板的信息和可用性。

  2. 适用于 AI 噪声抑制和离线语音处理的相关 TI 设计或参考代码。

感谢您的帮助。 我们期待您的专业指导。

 

此致、

Mike

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Mike:

    当前的 AM62A 软件不支持 LLM / Whisper 式变压器模型(或类似的自动回归网络)。 这些类型的图层都是在进行中的工作、但我没有具体的时间表来分享。  使用 1D 卷积或 RNN/LSTM 的音频时间序列网络也有类似的情况--这是在开发中的。 目前、我们支持多种视觉变压器模型。 我们的 C7-NPU 处理器的 Edge AI Studio 专注于视觉用例。

    片上 C7 NPU 仅可用于神经网络加速、因此 ANC 或类似的噪声抑制算法需要在 A53 CPU 内核上运行。 没有 可用的参考设计/代码。

    我们可以通过 SDIO 支持 WiFi 模块——我可以分享一些资源来演示我们使用 m.2 WiFi 卡所做的演示  

    此致、
    Reese