工具/软件:
尊敬的先生:
我正在使用管道缩放器->pre-proc->TIDL->post-proc 来处理一个应用程序。 SDK 为08.02.00.05、目标为 TDA4VM/J721E。
我的 DL 模型是16位。 Pre-proc 输出应提供16位 RGB 张量。
我转储预处理输出并使用 VOOYA 应用程序进行检查。 预计预处理输出的边框填充为1 1 0 2 (右上角)。 我发现张量大小是3x225x227。 (型号大小224x224)
但填充(R G B)的值在65535 (2^16)范围内。
我转储演示 APP_tidl_16bit 分割应用的预 proc 输出、并检查是否相同。在这种情况下、填充(R G B)的值为0。
预处理转储如下所示。 Left My Application ,右 SDK 演示段(16bit)
注意:
-> Im 从应用程序获得无效的输出,我认为这可能是原因。我验证了自定义后处理节点,它工作正常。 因此、预处理或 TIDL 都必须导致问题。
->我得到了演示分割应用程序的有效和预期输出。
->我甚至验证了另一个型号的 szie 512x320(16位),我也遇到了同样的问题。
请就此指导我。
谢谢、
Raju。