This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-J721S2:TIDL 输出 Tensor 内存入侵

Guru**** 2481465 points


请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1429682/processor-sdk-j721s2-tidl-output-tensor-memory-invasion

器件型号:PROCESSOR-SDK-J721S2

工具与软件:

大家好、TI 团队:

TIDL 网络有23个输出测试器。

下图显示了输出密度的一些信息。

- IDX 1张张张张量在83层处理。

- IDX 2张张量在84层进行处理。

- 84层在83之前被处理。

我观察到 idx 2输出张量存储器在处理第83层后被入侵。

图层214的输出张量为 idx 1。

idx 1张量存储器大小与 idx 1和2之间的存储器间隔紧密相同。

在创建输出传感器时、我应该使用 outPadCh 吗?

为什么 TIDL 进程似乎使用超出分配的缓冲区大小的内存?

此致、

UK Lee

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    嗨、UK Lee;

    您能告诉我们您是如何/从哪里获得此表吗? 以便我们可以比较这些注释

    谢谢。此致

    文立

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    大家好、李文强:

    ——

    下面显示了表格信息。

    数据类型 : vxCreateTensor 位置 的参数(vx_enum DATA_TYPE )

    信号 : sTIDL_IOBufDesc_t 结构体 的成员(int32_t outWidth )

    高度 : sTIDL_IOBufDesc_t 结构体 的成员(int32_t 高度 )

    信道 : sTIDL_IOBufDesc_t 结构体 的成员(int32_t outNumChannels )

    批次 : sTIDL_IOBufDesc_t 结构体 的成员(int32_t outNumBatches )

    Tensor 大小 : tivx_obj_desc_tensor_t 结构体 的成员(uint32_t MEM_SIZE )

    存储器地址 :指针转换 tivx_obj_desc_tensor_t 结构体 的成员(tivx_shared_mem_ptr_t MEM_ptr )由 tivxMemShared2TargetPtr 提供 位置

    存储器间隔 :例如,idx 1的内存地址和 idx 2的间隔

    LayerId :由 TIDL 网络的 SVG 引用

    ——

    通过在创建和处理时打印每个信息来获取结果。

    ——

    此致、

    UK Lee

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    大家好、李文强:

    您是否有关于此问题的任何更新?

    此致、

    UK Lee

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    嗨、UK Lee、

    此 E2E 主题已上报给我。  您可以将型号和 model_configs.py 发送给我吗?   它不需要进行训练、如果您被禁止共享整个模型、它可能只是模型故障部分的一个片段。

    此致、
    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    大家好、Chris:

    我们正在努力创建一个 TOYMODEL。

    我尝试了2个 toymodels 但失败了。

    但我还没有收到对下面问题的回答。 有可能得到一个吗?

    [quote userid="545865" url="~/support/processors-group/processors/f/processors-forum/1429682/processor-sdk-j721s2-tidl-output-tensor-memory-invasion 创建输出张量时、我应该使用 outPadCh?

    创建一个像以下代码这样的张量是错误的吗?

    vx_status svTidlNodeAgent::create_out_tensor(const vx_context context, sTIDL_IOBufDesc_t& io_buf_desc, vx_tensor tensors[])
    {
        enum vx_type_e data_type;
        vx_size tensor_sizes[APP_MAX_TENSOR_DIMS];
    
        for (int32_t idx = 0; idx < io_buf_desc.numOutputBuf; idx++) {
            tensor_sizes[0] = io_buf_desc.outWidth[idx] + io_buf_desc.outPadL[idx] + io_buf_desc.outPadR[idx];
            tensor_sizes[1] = io_buf_desc.outHeight[idx] + io_buf_desc.outPadT[idx] + io_buf_desc.outPadB[idx];
            tensor_sizes[2] = io_buf_desc.outNumChannels[idx];
    
            data_type = convert_tidl_element_type_to_vx_type(io_buf_desc.outElementType[idx]);
            tensors[idx] = vxCreateTensor(context, 3, tensor_sizes, data_type, 0);
        }
    
        return VX_SUCCESS;
    }

    此致、

    UK Lee

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    嗨、UK Lee、

    这超出了我的专业范围、我已将其分配给 TIDL 开发团队。

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好!
      您能帮助说明您使用的是哪种 SDK 和 TIDL 版本吗?  


    此致、

    Anshu

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Anshu、您好:

    我使用 PSDK 9.2.0.5 J721S2和 TIDL 9.2.5.2、如下所示。

    https://software-dl.ti.com/jacinto7/esd/processor-sdk-rtos-j721s2/09_02_00_05/exports/docs/psdk_rtos/docs/user_guide/sdk_components_j721s2.html#ti-deep-learning-product-tidl

    此致、

    UK Lee