This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VP-Q1:TIDL-RT PTQ 校准 — 数据集大小

Guru**** 2694555 points

Other Parts Discussed in Thread: TDA4VM

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1596896/tda4vp-q1-tidl-rt-ptq-calibration---dataset-size

器件型号: TDA4VP-Q1
Thread: TDA4VM 中讨论的其他器件

尊敬的支持团队:

我正在尝试使用 edgeai-tidl-tools 将具有 80 个类(类似于 YOLO)的 ONNX 物体检测模型转换为 TIDL-RT 格式

考虑到 PTQ 量化步骤、我想知道使用 30,300 或 3000 幅图像进行校准会更好吗? 我在 edgeai-tidl-tools 示例中看到只使用了 3 个图像、难道它不是一个太小的数据集吗? 或者、选择它是为了更快地验证工具使用情况?

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    再次大家好、

    建议使用大约 50 帧进行校准;是的、有三个示例不是建议示例。   

    A.1. 训练后量化 (PTQ)

    • 训练免费量化 — 最简单易用
    • 该方法将浮点模型转换为定点模型。 它需要有代表性的校准数据来确定用于定点推理的刻度和零点
    • 它支持对称和非对称量化。 请参阅 链接 、了解对称和非对称量化的定义。 所有器件都支持对称量化、除 TDA4VM/AM68PA 之外的所有器件都支持非对称量化
      • 建议设置“ advanced_options:量化比例_type “至 4(非对称量化)、适用于支持该功能的设备
    • 混合精度 — 层可配置为 8 位/16 位的混合、以提供更高的精度。 有关所提供选项的详细信息、请参阅[MixedPrecision][#Mixed Precision]
    • 有关调整 TIDL-RT PTQ 过程的附加选项的更多信息、请参阅校准部分

    此致、

    Chris