This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] J784S4XEVM:申请有关通过多个输入处理定制操作的指导 (TIDL、ONNX)

Guru**** 2667985 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1590995/j784s4xevm-request-for-guidance-on-handling-custom-ops-with-multiple-inputs-tidl-onnx

器件型号: J784S4XEVM

您好:

我正在使用 TIDL 开发 ONNX 模型。
我的设置是:

SDK: RTOS 10.1.0.4

TIDL / edgeai-tidl-tools 版本: 10_01_04_00

模型格式: ONNX

在我的网络中、我有几个需要的自定义层/运算符  多输入

根据 TIDL 文档、即电流  自定义操作员 API 不支持多个输入 、并且只允许单个输入张量。

对于处理需要多个输入的定制操作、您是否有任何建议或官方支持的模式?

任何指导、实例或最佳做法建议都将非常感谢。

此致

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Ghassen:

    进行一些搜索后、一种方法是 添加保留参数所需的大小、作为自定义图层参数本身的一部分。 例如、在 TIDL_MapCustomParams 函数 (file:tidl_custom_import.c) 中用于最大池的现有示例中。

    下面一行设置参数的大小:  

    TIDL_CustomParams0_t *custom0Params =(TIDL_CustomParams0_t *) malloc (sizeof (TIDL_CustomParams0_t));

    可以将其更新为  

    TIDL_CustomParams0_t *custom0Params =(TIDL_CustomParams0_t *) malloc (sizeof (TIDL_CustomParams0_t) + sizeForParameters);

    同时将大小更新为:  

    TIDLPCLayers.weightings.bufSize = sizeof (TIDL_CustomParams0_t)+ sizeForParameters;

    现在要从 customParameters 访问参数、这些参数将被传递给函数、您可以 执行以下操作:  

    void * parameterPointer =(uint8_t *) customParameters + size (TIDL_CustomParams0_t)

    由此、我预计额外输入的大小必须是固定的。   希望这对您有所帮助。

    此致、

    Chris

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好 Chris、

    感谢您的答复。

    我将测试您的建议、并在获得结果后立即回复您。

    此致

    Ghassen

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    嘿、Ghassen、

    如果您有任何更新、请告知我们。

    此致、

    Christina