TMS320F28P550SJ: 咨询 F28P55 NPU 推理接口与 CPU 并行执行方式

Cao Jinyuan

Part Number: TMS320F28P550SJ
Other Parts Discussed in Thread: C2000WARE

您好！

我正在使用 TMS320F28P550SJ 的片上 NPU。TI 的《神经网络处理单元（NPU）指南》提到，NPU 可以在主 CPU 处理其他任务的同时独立执行神经网络推理。我希望确认这一能力在实际软件中应如何实现。

板上测试时，我启用了全局中断，在主程序中调用由 TI 工具生成的模型执行函数 tvmgen_default_run ，并记录调用前后的程序状态。测试发现，模型执行函数返回时，NPU 的完成标志已经置位，而 CPU 主程序在函数调用期间没有继续执行其他计算；虽然可以观察到与 NPU 完成相关的中断处理，但没有观察到 CPU 计算与 NPU 推理真正重叠。将模型执行请求移出定时器中断后，CPU仍然只能在两次推理之间执行其他任务。因此，我暂时无法判断模型执行函数本身就是同步阻塞接口，还是当前调用或中断配置不正确。

想请教以下问题：

TI 工具生成的模型执行函数是同步阻塞接口，还是在启动 NPU 后应当立即返回？
F28P55 是否支持“NPU执行神经网络推理的同时，CPU继续运行应用程序代码”？如果支持，TI推荐的软件流程是什么？
是否存在非阻塞的NPU启动接口，使CPU可以先启动推理，再通过完成标志、状态查询或完成中断取得结果？
如果模型执行函数在NPU完成前不返回，这段时间内CPU是在轮询完成状态、执行NPU运行库代码，还是处于等待中断状态？
要实现CPU与NPU并行，是否需要绕过模型生成代码中的默认执行函数，改用更底层的NPU接口？如果需要，是否有对应的C2000Ware示例或应用文档可以参考？
NPU完成中断的推荐用途是什么？它是否可以用于通知CPU读取推理结果并启动下一次推理？

烦请协助确认F28P55x上CPU与NPU并行运行的正确实现方式，以及模型执行函数的预期行为。

谢谢！

18 天前

0 Taylor 17 天前

TI__Guru 54485 points

您好，

已经收到了您的案例，调查需要些时间，感谢您的耐心等待。

0 Daniel 14 天前

TI__Guru 51335 points

您好

根据您的问题有一下参考资料，希望能帮助到您

(+) (+)TMS320F28P550SJ：NPU 如何在 AI 模型中与 CPU 协同工作 - C2000 微控制器论坛 - C2000︎ 微控制器 - TI 端对端支持论坛

Edge AI Motor Fault Detection with MC

你可以参考这个链接中的用户指南。本用户指南旨在开发和部署用于检测电机故障的神经网络模型，但开发流程是通用的。

(+) (+)TMS320F28P550SJ：NPU 指令集和参考手册 - C2000 微控制器论坛 - C2000︎ 微控制器 - TI E2E 支持论坛

(+)LAUNCHXL-F28P55X：LAUNCHXL-F28P55X包含一个NPU模块。你能解释一下NPU的内部电路结构吗？有详细的技术规格吗？- C2000 微控制器论坛- C2000︎ 微控制器 - TI 端对端支持论坛

(+)TMS320F28P550SJ：AI 弧检测 - C2000 微控制器论坛 - C2000︎ 微控制器 - TI 端对E支持论坛

0 Cao Jinyuan 12 天前回复 Daniel

Prodigy 10 points

您好，

感谢回复。

通过阅读你提供的资料，我使用 TinyML TensorLab 1.4.0 / TI MCU NNC 2.1.2 将神经网络成功编译为了 hard 模式。我使用的是一个纯全连接网络。编译日志显示：

Target: c, ti-npu type=hard
TI NPU Offloading Report
FC    [X]
FC    [X]
FC    [X]

但板上测试发现，模型调用返回时完成标志已置位：

tvmgen_model1_router_finished = 0;
tvmgen_model1_router_run(&inputs, &outputs);
// 此处断点测试 finished 已经等于 1

进一步检查最终链接和反汇编发现：

mod.a : tinie_soft.obj (.text:TINIE_fullyConnected)

TINIE_fullyConnected() 内部使用 C28x 的 MAC/DMAC 指令完成计算，生成代码中 tinie_num_sublayers=0，也没有执行 TINIE_setup() 或 TINIE_start()。因此三个 FC 实际由 CPU 同步执行，并未运行在硬件 NPU。

烦请协助确认：

在 C28x type=hard 模式下，FC [X] 但最终调用 tinie_soft.obj 是否属于预期行为？
F28P55 上将 FC 层正式编译到硬件 NPU，需要使用什么受支持的配置或编译方式？
对于 8 位权重 FC，iC>=16 是否是硬件 NPU 微码的必要条件？
FC 成功映射到硬件 NPU 后，模型入口是否应在 NPU 后台运行期间返回，并由 DONE 中断继续推进后续层？

如有需要，我可以提供完整编译日志、mod.a、链接映射文件和反汇编结果。

谢谢！

0 Daniel 11 天前回复 Cao Jinyuan

TI__Guru 51335 points

您好

感谢您的回复

新的问题建议您提交新的帖子。

C2000 微控制器

C2000™︎ 微控制器论坛

TMS320F28P550SJ: 咨询 F28P55 NPU 推理接口与 CPU 并行执行方式