This thread has been locked.

If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.

[参考译文] SK-TDA4VM:TDA4VM -基准部署问题

Guru**** 1530200 points
请注意,本文内容源自机器翻译,可能存在语法或其它翻译错误,仅供参考。如需获取准确内容,请参阅链接中的英语原文或自行翻译。

https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1200477/sk-tda4vm-tda4vm--benchmark-deployment-problem

器件型号:SK-TDA4VM

e2e.ti.com/.../weights.zipHi、

我 的 SDK 版本是  适用于边缘 AI 的处理器 SDK Linux 08.04.00. 我在 https://github.com/TexasInstruments/edgeai-yolov5上培训了一个定制模型。  然后使用" python3 export.py --weands run/exp5/weands/best.pt --img 640 --batch 1 --Simple-export-nms --opset 11"应用 onnx 转换 ,结果我复制了.prototxt 和.onnx 文件。   我将 它们复制到"opt/edgeeai-benchmark-r8.4/Work_dirs/modelartifes_yolov5s6_640"文件夹 中、并进行了以下更改。 但模型工件的创建被中断。 问题可能出在哪呢?

“benchmark_custom.py” 文件:
 'imagedet-7'dict (
      Task_type='检测'
      calibration_datas=imagedet_calib_dataset
      input_datase=imagedet_val_dataset
      preprocess=preproc_transforms.get_transform_onnx (640640、 resize_with_pad=Truebackend='CV2'pad_color=[114、114、114])、
      Session=Sessions.ONNXRTSessions(**utils.dict_update(onnx_session_cfg, input_optimizing=Falseinput_mean=(0.00.00.0)Input_scale=(0.0039215686270.0039215686270.003921568627))、
        RUNTIME_OPTIONs=settings.runtime_options_onnx_np2 (
          DET_OPTIONs=Trueext_options='object_detection:meta_arch_type'6
           'object_detection:meta_lifes_names_list'f'/home/machunlei/opt/edgeai-benchmark-r8.4/work_dirs/modelartifacts_yolov5s6_640/best.prototxt
           'advanced_options:output_feature_16bit_names_list'''
           })、
        model_path=f'/home/machunlei/opt/edgeai-benchmark-r8.4/work_dirs/modelartifacts_yolov5s6_640/best.onnx)、
      postprocess=postproc_translations.get_translation_detection_yolov5_onnx (SQUEEZE_AXILE=Nonenormalized _detections=Falseresize_with_pad=True格式器=postprocess.DetectionBoxSL2BoxLS ())、#TODO:检查此情况
      metric =dict (label_offset_pred=datasets.coco_det_label_offset_80to90 (label_offset=1))、
      model_info=dict (metric_references='Accuration_ap[.5:.95]%'37.4})
    )、

"setting_base.YAML"文件:

modelartifes_path'./work _dirs/modelartifes_yolov5s6_640'

(py36) root@iZ2zegfoso26e6c51v05bnZ:/home/machunlei/opt/edgeai-benchmark-r8.4。/run_custom_pc.sh
‘:“./work _dirs/modelartifes/8bits/”:没有这样的文件或目录
TIDL_TOOLS_PATH=/home/machunlei/opt/edgeai-benchmark-r8.4/tidl_tools
LD_library_path=/home/machunlei/opt/edgeai-benchmark-r8.4/tidl_tools
PYTHONPTH=:
===================================================================================================================================
Work_dir =./Work_dirs/modelartifes_yolov5s6_640/8位
packaged_dir =./work _dirs/modelartifes_yolov5s6_640_package/8位
正在将注释加载到内存中...
完成(t=0.60s)
正在创建索引...
索引已创建!
正在将注释加载到内存中...
完成(t=0.65s)
正在创建索引...
索引已创建!
要运行的配置:['imagedet-7_onnxrt_work _dirs_modelimes_yolov5s6_640_best _onnx']
配置数:1.
任务| 0%0/1|[[<]
INFO:20230227-165139:启动 parally_device 上的进程- 0%||| 0/1 [00:00

信息:20230227-165148:启动- imagedet-7_onnxrT_work _dirs_modelimes_yolov5s6_640_best _onnx
信息:20230227-165148:model_path -/home/machunlei/opt/edgeai-benchmark-r8.4/work_dirs/modelartifacts_yolov5s6_640/best.onnx
信息:20230227-165148:model_file -/home/machunlei/opt/edgeai-benchmark-r8.4/work_dirs/modelartifacts_yolov5s6_640/8bits/imagedet-7_onnxrt_work_dirs_modelartifacts_yolov5s6_640_best_onnx/model/best.onnx

信息:20230227-165148:正在运行- imagedet-7_onnxrT_work _dirs_modelimelimes_yolov5s6_640_best _onnx
信息:20230227-165148:Pipel_config -{'task_type':'setection'、'calibration_datase': ,'input_dataset': ,“预处理”: ,“会话”: ,“进程后”: 、'metric':{'label_offset_pred':{0:1、1:2、2:3、3:4、4:5、 5:6、6:7、7:8、8:9、9:10、 10:11、11:13、12:14、13:15、14:16、 15:17、16:18、17:19、18:20、19:21、 20:22、21:23、22:24、23:25、24:27、 25:28、26:31、27:32、28:33、29:34、 30:35、31:36、32:37、33:38、34:39、 35:40、36:41、37:42、38:43、39:44、 40:46、41:47、42:48、43:49、44:50、 45:51、46:52、47:53、48:54、49:55、 50:56、51:57、52:58、53:59、54:60、 55:61、56:62、57:63、58:64、59:65、 60:67、61:70、62:72、63:73、64:74、 65:75、66:76、67:77、68:78、69:79、 70:80、71:81、72:82、73:84、74:85、 75:86、76:87、77:88、78:89、79:90、 80:91}}、'model_info':{metric_reference':{'Accuration_ap[.5:.95]%':37.4}}}
信息:20230227-165148:导入- imagedet-7_onnxrt_work _dirs_modelimes_yolov5s6_640_best _onnx -这可能需要一些时间.../root/anaconda3/envs/py36/lib/python3.6/site-packages/onnxruntime/capi/onnxruntime_inference_collection.py:56:UserWarning:指定的提供商"TIDLCompilationProvider"不在可用的提供商名称中。可用的提供商:'CPUExecutionProvider'
"可用提供商:"{}".format (name、"、".join (available _sprovider_name)))
回溯(最近一次调用最后一次):
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/pipeline_runner.py、第154行、在_run_pipeline 中
结果= cls._run_pipeline _ impl(设置、pipeline 配置、说明)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/pipeline_runner.py、第125行、位于_run_pipel_impl 中
Accuration_Result = Accuration_流水 线(说明)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/accuracy_pipeline.py、第121行、位于__call__中
param_result = self_run (description=description)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/accuracy_pipeline.py、第147行、在_run 中
self_import_model (说明)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/accuracy_pipeline.py、第201行、位于_import_model 中
self._run_with 日志(session.import_model、calib_data)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/pipelines/accuracy_pipeline.py、第301行、位于_run_with _log 中
返回 func (* args、** kwargs)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/sessions/onnxrt_session.py、第53行、位于 import_model 中
self.interpreter = self_create_inter解释 器(ies_import=True)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/sessions/onnxrt_session.py、第132行、在_create_inter解释 器中
provider_options=[runtime_options、{}]、sess_options=sess_options)
文件"/root/anaconda3/envs/py36/lib/python3.6/site-packages/onnxruntime/capi/onnxruntime_inference_collection.py、第335行、位于_init__中
self_create_inence_session (提供程序、提供程序选项、禁用优化器)
文件"/root/anaconda3/envs/py36/lib/python3.6/site-packages/onnxruntime/capi/onnxruntime_inference_collection.py、第379行、在_create_inence_session 中
sess.initialize_session(providers、provider_options、disabled_optimizers)
运行时错误:未知的提供程序类型:TIDLCompilationProvider
未知的提供者类型:TIDLCompilationProvider
任务| 100%|██████████ || 1/1 [00:12<00:00、12.57s/IT]
任务| 100%|██████████ || 1/1 [00:12<00:00、12.57s/IT]

将工件封装到./work _dirs/modelies_yolov5s6_640_package/8位请稍候...
警告:20230227-165149:无法打包-./work _dirs/modelimelimes_yolov5s6_640/8位/imagedet-7_onnxrt_work _dirs_modelimelimes_yolov5s6_640_best _onnx
回溯(最近一次调用最后一次):
文件"./scripts/benchmark_custom.py、第299行、在中
tools.run_package(settings、Work_dir、packaged_dir、custom_model=True)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/tools/run_package.py、第42行、位于 run_package 中
package_artifs (settings、work _dir、out_dir、include_results=include_results、custom_model=custom_model)
文件"/home/machunlei/opt/edgeai-benchmark-r8.4/edgeai_benchmark/tools/run_package.py、第269行、位于 PACKAGE_神 器中
packaged_elimes_keys = list (packaged_elimes_dict.values ())[0].keys ()
IndexError:列表索引超出范围
----------------------------------------
===================================================================================================================================
设置:{'include_files':none、'pipeline _type':'Accuration'、'num_fRA帧':10000、'calibration_frames':25、'calibration_iterations':25、 'configs_path':'./configs'、'models_path':'../edgeai-modelzoo/models、'modelartifes_path':'./work _dirs/modelartifes_yolov5s6_640'、'datasets_path':'./dependencies/datasets、'target_device':无、 'target_machine':'pc'、'run_suffix':none、'parally_devices':[0]、'tenser_bits':8、'runtime_options':none、 'run_import':true、'run_推理':true、'run_missing':true、'setection_threshold':0.3、'setection_top_k':200、 'detection_NMS_threshold':none、'detection_keep_top_k':none、'save_output':false、'num_output_frames':50、'model_selection':none、 'model_shortlist':none、'model_exclation':none、'task_selection':none、'runtime _selection':none、'Session_Type_dict':{'onnx':'onnxrt'、 'tflite':'tflittert'、'xnet':'tvmdlr'}、'dataset_type_dict':{'imagenet':'imagenetv2c'}、'ataset_selection':none、'dataset_loading:true、 "CONFIG_RANGE":无、"ENABLE_LOAD":true、"virbose":false、"CAPTURE_LOG":false、"Experimental _models":false、 'read_results':false、'us_udp':true、'flip_test':false、'model_transform_dict':none、'read_perfsim':false、 'tidl_offload':true、'input_optimization':none、'run_dir_tree_depture':none、'setups_file':'setups_import_on_PC.YAML'、'basical_keys':['include_files'、 'pipeline _type'、'num_FRA框'、'calibration_frames'、'calibration_iterations'、'configs_path'、 'models_path'、'modelartifes_path'、'datasets_path'、'target_device'、'target_machines'、 'run_suffix'、'parally_devices'、'tenser_bits '、'runtime_options'、'run_import'、 'run_推理'、'run_missing'、'setection_threshold'、'setection_top_k'、'setection_NMS_threshold'、 'detection_keep_top_k'、'ave_output'、'num_output_frames'、'model_selection'、'model_shortlist'、 'model_exclation'、'task_selection'、'runtime _selection'、'Session_Type_dict'、'dataset_type_dict'、 'dataset_selection'、'dataset_loading'、'config_range'、'enable_logging'、'vrbose'、 'capture_log'、'实验性_models'、'write_results'、'with _udp'、'flip_test'、 'model_transformation_dict'、'port_perfsim'、'tidl_offload'、'input_optimization'、'run_dir_tree_depture'、 'sets_file']、'dataSet_cache':无}
未找到结果-没有要生成的报告。
在./work _dirs/modelartifes_yolov5s6_640生成报告

附件是我的自定义模型。  请帮助检查问题是什么?

UnleMaii,è s