This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-J721S2:如何在量化过程中修复模型输出层的类型

Guru**** 2378650 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1480652/processor-sdk-j721s2-how-to-fix-the-type-of-model-output-layer-during-quantization

器件型号:PROCESSOR-SDK-J721S2

工具/软件:

尊敬的 TI 专家:

    我在 j721s2-evm-09_01_00_06版本 SDK 中使用模型转换工具对模型进行量化、量化模型的输出层量化为 int8数据类型、范围为0-128。 我需要量化模型的输出层数据类型为 uint8、范围为0-255。 我能否修改模型转换过程中使用的配置文件、使最终量化模型的输出层变为 uint8? 或者、是否有其他方法可以将量化模型的输出层固定为 uint8数据类型?

     如随附的文件中所示、模型输出层 hr_output  是 TIDL_SignedChar 类型、但我需要的是 unsigned char 类型。

tidl_net_part_info.bin.txt

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、王锐

      此问题是否已解决?

    此致

      Semon