This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] PROCESSOR-SDK-J721E:edgeai-tidl-tools 如何使用 run_python_examples.sh 根据新的深度学习模型生成新的模型工件?

Guru**** 2024950 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1129480/processor-sdk-j721e-edgeai-tidl-tools-how-to-generate-new-model-artifact-based-on-new-deep-learning-model-using-run_python_examples-sh

器件型号:PROCESSOR-SDK-J721E

大家好、

为了使用生成的 tflite 委派、我正在尝试使用 edgeea-tidl-tools repo (github.com/.../run_python_examples.sh)中的 run_python_examples.sh 脚本生成新的模型工件(用于 TIDL 模型动物园项目#8中列出的支持模型)。 尽管我能够生成伪影、但我在运行推理时观察到了错误的结果。 下面提供了详细信息。

1.我在 https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/common_utils.py 脚本中添加了以下 内容、以添加模型源和用于生成的其他参数。  

'OD-TFL-SSD_MobileNet_v1_DEFAULT_1':{
       'model_path':os.path.join (models_base_path、'sd_MobileNet_v1_1_default_1_1.tflite')、
       'source':{'model_url':'tfhub.dev/.../1,'opt':true },
       'main':[127.5、127.5、127.5]、
       'TD':[1/127.5、1/127.5、1/127.5]、
       'num_images':numImages,
       'num_classes':91、
       'model_type':'OD'、
       'Session_name':'tflittert'、
       'OD_TYPE':'HasDetectionPostProcLayer'
   }、

注意:模型 URL 是 从 TIDL 模型动物园项目#8链接(tfhub)中列出的支持模型获得的、并且具有与 python 示例中已包含的模型 od-TFL-SSD_MobileNet_v2_300_float 相同的参数。

参考: TI 深度学习产品用户指南:TIDM-RT 模型动物园

2.我还在 https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/tfl/tflrt_delegate.py#L221中添加了突出显示的更改
型号=['cl-TFL-MobileNet_v1_1.0_224'、's-TFL-deeplabv3_MNv2_ade20k_float'、'od-TFL-SDS_MobileNet_v2_300_float'、'od-TFL-SDS_MobileNet_v1_DEFAULT_1']

预期结果 (类似于 py_out_od-tfl-ssd_mobilenet_v2_300_float_ADE_val_00001801.jpg):



获得的结果 (py_out_od-tfl-ssd_mobilenet_v1_1_default_1_ADE_val_00001801.jpg):

以下是控制台输出日志:

e2e.ti.com/.../run_5F00_python_5F00_examples-NEW-ARTIFACT-console-output.txt

***How can I properly generate new model artifact using the scripts from edgeeai-tidl-tools repo?(如何使用 edgeeai-tidl-tools repo 中的脚本正确生成新模型工件

提前感谢!

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好!

    您能否设置“tenser_bits”:32并检查它是否生成正确的输出?

    一个仅运行 tflite 特定脚本和所需模型的提示:您只能从 run_python_examples.sh 运行 tflrt_delegate.py 相关脚本,并注释掉其他框架脚本的执行。 此外、您还可以设置模型=['od-TFL-SSD_MobileNet_v1_DEFAULT_1']、以便脚本仅运行所需的模型。

    此致、

    Anand

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Anand、您好!

    感谢您的评论。

    我尝试了您的建议并将 tenser_bits 设置为32、但是、我仍然得到错误的推理结果(请参阅下图)。



    在这里、我的更改:
    网址为 https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/examples/osrt_python/common_utils.py#L33

    Tenser_bits = 32

    我还在模型工件配置中添加了参数、以确保正确
    'OD-TFL-SSD_MobileNet_v1_DEFAULT_1':{
           'model_path':os.path.join (models_base_path、'sd_MobileNet_v1_1_default_1_1.tflite')、
           'source':{'model_url':'tfhub.dev/.../1,'opt':true },
           'main':[127.5、127.5、127.5]、
           'TD':[1/127.5、1/127.5、1/127.5]、
           'num_images':numImages,
           'num_classes':91、
           'model_type':'OD'、
           'Session_name':'tflittert'、
           "Tenser_bits":32,
           'OD_TYPE':'HasDetectionPostProcLayer'
       }、

    您对可能发生的情况有什么了解吗? 是否有获得预期推理结果的建议?

    谢谢!

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    Anand、您好!

    我更新了说明、以指明我使用的确切拓扑。

    此致。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好、Carlos、我们将研究这个问题。 需要更多的时间、您将随时了解最新信息。

    此致、

    Anand

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    解锁线程以进行注释。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    尊敬的 Carlos:

    我们已发现 OSRT 中的预量化模型存在错误。 我们正在处理此错误,并计划在下一个 TIDL 发行版(SDK 8.5)( 将于12月中旬推出)之后尽快修复此错误。

  • 请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

    您好 Fadil、

    感谢您的更新!