• 状态 Resolved
  • 已锁定 已锁定
  • 回复 5 回复
  • 订户 0 订户
  • 视图 59 视图
  • 用户 0 会员在此处
选项
选项
相关

This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VH-Q1：嵌入式提取模型 PTQ 量化问题

admin
Guru**** 2551110 points


请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1556907/tda4vh-q1-embedding_extraction-model-ptq-quantization-problem

器件型号：TDA4VH-Q1


工具/软件：

你（们）好

我训练了一个用于嵌入提取和量化的识别模型,但在内部产品层中,biasScale跳到可表示的最大 FP32。 主干是 RegNetX-1200MF、ONNX 推理工作正常、但在量化过程中我一直遇到问题。 我使用 SDK 9.2、我设置features_bit为 16 用于嵌入提取层。 问题可能是什么？

e2e.ti.com/.../embedding_5F00_tidl_5F00_net.bin.zip

  • 0
    TI__Guru**** 2551110 points
    请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

    这是量化选项

  • 0
    TI__Guru**** 2551110 points
    请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

    这就是问题所在

  • 0
    TI__Guru**** 2551110 points
    请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

    尊敬的 Jeong Kim：

    我首先想到的是使用 TIDL 11x、而不是不再受支持的版本。  其中许多问题在过去两年中已得到解决、并增加了更多层。  我将回顾您所发布的内容、但要成功、最快的解决方案将是使用更新的 SDK。  

    此致、

    Chris

  • 0
    TI__Guru**** 2551110 points
    请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

    我解决了这个问题。

    edgeai-tidl-tools 上的 PTQ 失败

    TDA4 上的 PTQ 通过

    有何不同？

    以下是我的 PTQ 选项。

  • 0
    TI__Guru**** 2551110 points
    请注意，本文内容源自机器翻译，可能存在语法或其它翻译错误，仅供参考。如需获取准确内容，请参阅链接中的英语原文或自行翻译。

    尊敬的 Jeong Kim：

    令人印象深刻、恭喜您。  我为他人添加了您的选项的文本格式。  感谢您的信息。

    e2e.ti.com/.../JeongKim.txt

    谢谢、

    Chris