[参考译文] TDA4VEN-Q1：TIDL 模型 DDR 带宽随着网络的微小变化而显著增加

最后、我们有以下 问题：

您好、Yu；

我已将您的问题转交研发团队。 他们将很快为您提供答案。

谢谢。此致

文立

您好、陈宇；

您何时以及如何发送上传的材料？  

您是否可以使用同一个 TT 上传信息或更新 TT？ 如果您为同一问题打开多个工单、系统将会混淆。 为了快速解答您的问题、请针对同一问题使用一个 TT。 但如果您有新问题、请打开一个新的 TT。  

感谢您的耐心！

文立

尊敬的 Li：

我向您发送了电子邮件、请帮助检查。

此致

Joe

您好、Yu、

据我所知、 high_resolution _optimization 具有与动态填充添加有关的功能、这仍然是一个实验函数。  

如果运算符执行相同的功能、则 Onnx 版本与推理时间/DDR 带宽几乎没有关系。  

此致、

Adam

您好、Yu、
1.虽然卷积运算符在模型1和模型2之间是相同的,但在使用的其他运算符以及在两个模型中存在的分支中也存在差异。 由于网络中的分支存在差异、因此存在各种数据依赖方面、这也会影响写入每层输出的存储器空间(DDR 与片上存储器)。 这 最终会影响推理时间和 DDR 带宽。
2.  启用"high_resolution optimization"总是可以提供更好的 DDR 带宽(或者与禁用时相比具有相同的 DDR 带宽)。 但是、此功能此时不稳定、因此在某些 情况下可能会产生意外结果。
3.不, Onnx 版本不会影响 推理时间/DDR 带宽。

此致
进纸器

尊敬的 Febin：

感谢您的答复。

1. 是的、与模型1相比、模型2有一个新分支、但与整个网络相比、它相对较小(1G MAC)。 但是、DDR 带宽增加了45%。 您的意思是、这主要是由于输出数量的增加？ 我们想了解显著增加 DDR 消耗的关键因素、以便我们可以在设计网络时将其用作指南。

2. 当您提到它可能"在某些情况下产生意外结果"时、您是否意味着同一个网络即使在大多数时间都正确、也可能产生意外结果？ 或者您的意思是、只有某些网络结构才会出现意外结果？

期待您的见解。

今天通话的最新动态：

1.  high_resolution_optimization 选项只会影响特定的模型。 因此,如果模型验证正常,那么应该可以使用它。

2.还需要分析一下当前的模型差异、才能找出 DDR BW 的影响因素。 这可用于优化以后的模型。

@ Febin,请帮助做进一步的模型分析,并分享什么有助于 DDR BW 的主要。 谢谢。

尊敬的 Febin：

听起来不错！ 我想我们现在可以解决这个问题。我们将在 下一个 SDK 可用后继续跟踪。

同时、感谢大家深入了解影响 DDR 带宽的因素。