[参考译文] TDA4VEN-Q1：TIDL 模型 DDR 带宽随着网络的微小变化而显著增加

您好、Yu；

我已将您的问题转交研发团队。 他们将很快为您提供答案。

谢谢。此致

文立

您好、陈宇；

您何时以及如何发送上传的材料？  

您是否可以使用同一个 TT 上传信息或更新 TT？ 如果您为同一问题打开多个工单、系统将会混淆。 为了快速解答您的问题、请针对同一问题使用一个 TT。 但如果您有新问题、请打开一个新的 TT。  

感谢您的耐心！

文立

尊敬的 Li：

我向您发送了电子邮件、请帮助检查。

此致

Joe

您好、Yu、

据我所知、 high_resolution _optimization 具有与动态填充添加有关的功能、这仍然是一个实验函数。  

如果运算符执行相同的功能、则 Onnx 版本与推理时间/DDR 带宽几乎没有关系。  

此致、

Adam

您好、Yu、
1.虽然卷积运算符在模型1和模型2之间是相同的,但在使用的其他运算符以及在两个模型中存在的分支中也存在差异。 由于网络中的分支存在差异、因此存在各种数据依赖方面、这也会影响写入每层输出的存储器空间(DDR 与片上存储器)。 这 最终会影响推理时间和 DDR 带宽。
2.  启用"high_resolution optimization"总是可以提供更好的 DDR 带宽(或者与禁用时相比具有相同的 DDR 带宽)。 但是、此功能此时不稳定、因此在某些 情况下可能会产生意外结果。
3.不, Onnx 版本不会影响 推理时间/DDR 带宽。

此致
进纸器

尊敬的 Febin：

感谢您的答复。

1. 是的、与模型1相比、模型2有一个新分支、但与整个网络相比、它相对较小(1G MAC)。 但是、DDR 带宽增加了45%。 您的意思是、这主要是由于输出数量的增加？ 我们想了解显著增加 DDR 消耗的关键因素、以便我们可以在设计网络时将其用作指南。

2. 当您提到它可能"在某些情况下产生意外结果"时、您是否意味着同一个网络即使在大多数时间都正确、也可能产生意外结果？ 或者您的意思是、只有某些网络结构才会出现意外结果？

期待您的见解。

今天通话的最新动态：

1.  high_resolution_optimization 选项只会影响特定的模型。 因此,如果模型验证正常,那么应该可以使用它。

2.还需要分析一下当前的模型差异、才能找出 DDR BW 的影响因素。 这可用于优化以后的模型。

@ Febin,请帮助做进一步的模型分析,并分享什么有助于 DDR BW 的主要。 谢谢。

尊敬的 Febin：

听起来不错！ 我想我们现在可以解决这个问题。我们将在 下一个 SDK 可用后继续跟踪。

同时、感谢大家深入了解影响 DDR 带宽的因素。