This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1458023/processor-sdk-am62a-edgeai-tidl-tool-compile-error
工具与软件：
您好！ 我正在尝试编译 yolov8定制模型。 我可以生成 onnx 和 prototxt 文件,我正在尝试使用 edgeai-tidl-tools 下的这些模型。 但是、我将面临以下错误。 1.环境 SDK : 9.02.00.05. 第二百零四章 edgeai-tidl-tools：标记"09_02_09_00" 2.错误信息
是否可以发送信息来解决此问题？ (我已尝试独立安装"onnxruntime"并重新尝试编译、但出现了其他错误。) 此致、
您好、Machida-San、
在使用 edgeai-tidl-tools 期间、这不是典型错误。 根据您的注释、这可能是 ONNXRuntime 上的版本控制问题。
请提供以下命令的结果、以便我可以在 Ubuntu 22.04计算机上查看您的依赖项版本：
pip3 freeze | grep -i "onnx"
例如、适用于 TIDL 9.2的 python3.10虚拟环境如下所示
caffe2onnx==1.0.2 onnx==1.13.0 onnx-opcounter==0.0.3 onnx_graphsurgeon @ git+github.com/.../TensorRT@68b5072fdb9df6b6edab1392b02a705394b2e906 onnxruntime-tidl @ file:///home/reese/1-edgeai/1-ti-tools/1-tidl-tools/10.0-tidl-tools/onnxruntime_tidl-1.14.0%2B10000000-cp310-cp310-linux_x86_64.whl#sha256=5efb894e39d3ca988e0644a1d0e9e34eab34c1a1f374d0085b9900febbb9724d onnxsim==0.4.35 -e git+github.com/.../edgeai-tidl-tools@b7b07738bcd9afc7f74580217e81c307668a84ed
你应该只有 onnxruntime-tidl、而不是普通的 onxruntime。
还可以尝试在 python REPL 中运行违规命令：
>>> import onnxruntime >>> onnxruntime.SessionOptions <class 'onnxruntime.capi.onnxruntime_pybind11_state.SessionOptions'> >>> onnxruntime.SessionOptions() <onnxruntime.capi.onnxruntime_pybind11_state.SessionOptions object at 0x78beae5e7fb0>
您好！ 感谢您的答复。 我尝试了 grep 命令。 这是结果。 —— root@a5bf73fb698c：/home/root pip3 freeze | grep -i "onnx" Caffe2onnx @ github.com/.../tidl.ziponnx=1.13.0 onnx_graph外科 医生@git+github.com/.../TensorRT@68b5072fdb9df6b6edab1392b02a705394b2e906onnx_opcounter==0.0.4 onnxruntime-tidl @ software-dl.ti.com/.../onnxruntime_tidl-1.14.0-cp310-cp310-linux_x86_64.whlonnxsim==0.4.35 #可编辑安装、无版本控制(tidl_onnx_model_optimizer=9.2.0) -e /home/root/scripts/osrt_model_tools/onnx_tools/tidl-onnx-model-optimizer —— 注意：默认情况下不安装"onnx_opcounter"、因此我使用"pip install "onnx-opcounter=0.0.4"添加了它
此外、这是 python 命令的结果。 —— root@a5bf73fb698c：/home/root # python3. Linux 上的 Python 3.10.12 (MAIN、2024年11月6日、20：22：13)[GCC 11.4.0] 键入"帮助"、"版权"、"信贷"或"许可证"以了解更多信息。 >>导入 onnxruntime >> onnxruntime。 SessionOptions (会话选项) 回溯(最近的呼叫最后)： 文件" "、第1行 AttributeError:模块"onnxruntime"没有属性"ssisionOptions" >> EXIT() —— BR、
您好！ 以下是其他信息。 当我单独安装"onnxruntime"(安装1.20.1)时、我可以避免以前的错误、但我遇到了以下 EP 错误。 —— . . . **** 在~tidlDelegate *******中 **** 在 TIDL_subgraphRtDelete 中**** 使用 handle 调用 tidle_deactivate：b208e000 抢占：删除具有句柄= 0x7aaeb208e000和 targetPriority = 0的 prierty 对象、 剩余的 obejcts 数= 0、删除具有 base = 0x7aaeb268e000和 size =128的对象 内存：Deinit ...！！！ 内存：分配：25个分配、共128638014字节 Mem: free's : 25 free's of 128638014 bytes. MEM: OPEN'S : 0个 0字节的分配 MEM: Deinit ...完成!! 可用的执行提供程序: ['AzureExecutionProvider ','CPUExecutionProvider '] 运行1个模型-['yolov8_s_syncbn_fast_8xb16-100e_coco'] Running_Model : yolov8_s_syncbn_fast_8xb16-100e_coco 运行模型../../../models/public/best_coco_bbox_mAP_epoch_97.onnx 上的形状推理 /usr/local/lib/python3.10/dist-packages/onnxruntime/capi/onnxruntime_inference_collection.py：115：UserWarning：指定的提供程序"TIDLCompilationProvider"不在可用的提供程序名称中。 可用提供程序：'AzureExecutionProvider、CPUExecutionProvider ' warnings.warn(. *** EP 错误*** EP 错误未知提供程序类型：使用['TIDLComplationProvider'、'CPUExecutionProvider']时的 TIDLComplationProvider 回退到['CPUExecutionProvider']并重试。 ＊＊＊ 工艺流程1： 回溯(最近的呼叫最后)： 文件"/usr/lib/python3.10/multiprocessing/process.py、第314行、位于_bootstrap 中 self.run() 文件/usr/lib/python3.10/multiprocessing/process.py、第108行、运行中 self._target(*self._args,**self._kwargs) 文件"run_model 中、第239行为/home/root/examples/osrt_python/ort/onnxrt_ep.py imgs、output、proc_time、sub_graph_time、height、 宽度 = infer_image (sess、input_images、config) infer_image 中文件"/home/root/examples/osrt_python/ort/onnxrt_ep.py、第135行 copy_time、sub_graphs_proc_time、totaltime = get_benchmark_output (sess) 文件"get_benchmark_output"中的第84行"/home/root/examples/osrt_python/ort/onnxrt_ep.py " benchmark_dict =解释器.get_TI_benchmark_data () AttributeError：'InferenceSession'对象没有属性'get_TI_benchmark_data' —— BR、
您好！
William Huang 说：属性错误：'InferenceSession'对象没有属性'get_TI_benchmark_data' [报价] 是的、对于 onnxruntime 的上游/主 pip 安装目标会是如此。 您的安装需要改用 onnxruntime-tidl。 您是否可以尝试删除 edgeai-tidl-tools 中的 tidl_tools 目录、卸载 onnx / onnxruntime 的所有版本、然后重试运行"setup.sh"安装脚本？ 另请确保未设置 TIDL_TOOLS_PATH 环境变量、因为如果已设置该变量、setup.sh 可能会跳过安装步骤。 William Huang 说：注意：默认情况下未安装"onnx_opcounter"、因此我使用"pip install "onnx-opcounter=0.0.4"添加了此选项 [报价] 没有问题、这是我必须为自己的测试安装的软件包。 TIDL 不需要该值。 否则、我无法重现您的错误。 我使用 python 设置了一个干净的虚拟环境、并下载了。 从"pip freeze"输出中的链接中下载 WHL 文件。 当我安装它时、onnxruntime。 SessionOptions 函数存在。 我将再次建议在虚拟/Docker 环境中执行这些软件包的全新安装。 我在您的日志中注意到您是奇数主机名的"根"用户。 也许这是 Docker 吗？ 如果是、请说明如何为该项目设置 Docker。 BR、 Reese [/quote]
是的、对于 onnxruntime 的上游/主 pip 安装目标会是如此。 您的安装需要改用 onnxruntime-tidl。
您是否可以尝试删除 edgeai-tidl-tools 中的 tidl_tools 目录、卸载 onnx / onnxruntime 的所有版本、然后重试运行"setup.sh"安装脚本？ 另请确保未设置 TIDL_TOOLS_PATH 环境变量、因为如果已设置该变量、setup.sh 可能会跳过安装步骤。
William Huang 说：注意：默认情况下未安装"onnx_opcounter"、因此我使用"pip install "onnx-opcounter=0.0.4"添加了此选项 [报价] 没有问题、这是我必须为自己的测试安装的软件包。 TIDL 不需要该值。 否则、我无法重现您的错误。 我使用 python 设置了一个干净的虚拟环境、并下载了。 从"pip freeze"输出中的链接中下载 WHL 文件。 当我安装它时、onnxruntime。 SessionOptions 函数存在。 我将再次建议在虚拟/Docker 环境中执行这些软件包的全新安装。 我在您的日志中注意到您是奇数主机名的"根"用户。 也许这是 Docker 吗？ 如果是、请说明如何为该项目设置 Docker。 BR、 Reese
没有问题、这是我必须为自己的测试安装的软件包。 TIDL 不需要该值。
否则、我无法重现您的错误。 我使用 python 设置了一个干净的虚拟环境、并下载了。 从"pip freeze"输出中的链接中下载 WHL 文件。 当我安装它时、onnxruntime。 SessionOptions 函数存在。 我将再次建议在虚拟/Docker 环境中执行这些软件包的全新安装。
BR、 Reese
尊敬的 Reese-San： 我尝试卸载 onnx 软件包并重新运行 setup.sh。 但是、执行"cmake ../examples && make -j && CD .."时出现错误。 命令。 因此、我清理了我的环境并重新创建了 Docker 环境。 然后、我可以生成文件。 >也许这是 Docker 吗? 如果是、请说明如何为该项目设置 Docker。 有。 我的环境位于 Docker 容器下。 我按照下面的存储库设置 Docker 环境。 https://github.com/TexasInstruments/edgeai-tidl-tools/blob/09_02_09_00/docs/advanced_setup.md#docker-based-setup-for-x86_pc目前、我可以生成文件、以便我将关闭该线程、但在 AM62A EVM 下运行模型时会遇到其他问题。 因此、请继续关注主题。 https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1459062/processor-sdk-am62a-yolov8-deployment-issue此致、
