This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] TDA4VM:导入 tflite 模型

Guru**** 2539500 points
Other Parts Discussed in Thread: TDA4VM

请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1234182/tda4vm-importing-tflite-model

器件型号:TDA4VM

您好!

我们正在尝试将 mobileetv2 tflite 模型导入到 TDA4VM。 我们尝试使用经过训练和量化的轻质模型,但结果非常不令人满意。 我们按照此 链接中的疑难解答建议将问题范围缩小到量化。  "*_paramDebug.csv"文件中的权重差异过大。 我们已尝试了使用示例配置但未更改它们、并遵循此 链接中建议的步骤。 就精度而言、我们所实现的最佳性能是未进行任何校准、这比 tflite 模型小~10%。 我们还尝试了使用浮点 tflite 模型、但结果更差。

我们还尝试使用边缘 AI 基准工具进行导入、但精度下降了~40%。

我们还尝试导入直接从 TF Hub 下载的 efficientnet lite 模型、并使用 ti-processor-sdk-rtos-j721e-evm-08_00_00_12/tidl_j721e_08_06_00_10/中存在的配置。 但结果也令人不满意。

您能否调查进口商中的量化问题、因为我们怀疑它可能有问题?

此致、

哈吉耶夫·米特科

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    请使用此处的量化配置来实现移动 v2和高效网、

    https://github.com/TexasInstruments/edgeai-benchmark/blob/master/configs/classification.py

    请参阅以下内容、了解我们为这些模型实现的8位量化精度

    https://github.com/TexasInstruments/edgeai-modelzoo/blob/master/modelartifacts/report_TDA4VM.csv

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Kumar:  

    我们测试了 已使用正确配置构建的 mobilenetv2 (更确切地说、是 mobilenet_v2_1.0_224.tflite、我们直接从 software-dl.ti.com/.../cl-0010_tflitert_imagenet1k_tf1-models_mobilenet_v2_1.0_224_tflite.tar.gz 下载)。 虽然报告中显示的准确性可能与官方 MobileNet v2结果相当,但实际预测(即预测类中的模型置信度)与.tflite 模型的预测有显著差异。 例如、我们在"ti-processor-sdk-rtos-j721e-evm-08_00_00_12"的以下四张图片上对其进行了测试:

    图像                               Real 标签              微粒预测          Tidl 模型预测          TOP1抖动      TOP1 tidl
    testvecs/input/airshow.jpg                 895                   0.61735                0.490337                896          896
    testvecs/input/ti_lindau_I00000.jpg          557                  0.25838175               0.365260                868          868
    testvecs/input/ti_lindau_000020.jpg         442                  0.36412942               0.219044                830          830
    testvecs/input/0000000271.png            498                  0.20371029               0.076484                451          512


    虽然前三幅图像的标签预测相符、但置信度却大不相同。 在第四个图像中,标签和预测都不同,我们担心这会经常发生,这些差异在预测中。 似乎没有明显的模式在 tidl 和 tflite 模型预测之间的差异,所以我们不能考虑它。

    对于输出标签较少的问题、这个问题证明对于精度指标至关重要。

    此致、

    哈吉耶夫·米特科

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    有更新吗?