This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
https://e2e.ti.com/support/processors-group/processors/f/processors-forum/1211663/tda4al-q1-tda4al
器件型号:TDA4AL-Q1您好!
我已经尝试从电路板上的此处安装 edge-ai-tidl 工具包: https://github.com/TexasInstruments/edgeai-tidl-tools
我使用了标签:08_06_00_03
并按照以下步骤操作:
Git 克隆 github.com/.../edgeai-tidl-tools.git
CD edgeai-tidl-tools
请结账
导出 SOC=
导出 tidle_tools_path=$(pwd)
已将 model 和 model_imperions 文件夹复制到 edgeai-tidl-tools 文件夹。 并运行以下命令:
mkdir 生成&& CD 生成
cmake ../examples && make -j && cd ..
This results in the following error:
您好、Ashay、
似乎您错过了运行一条命令
source ./setup.sh
can you run this command before your compile the cpp model and let know the result in this thread.
This command fetches all the required dependencies in your setup and this need to be done once only,
refer https://github.com/TexasInstruments/edgeai-tidl-tools/tree/08_06_00_03#setup-on-x86_pc for any further clarification..
尊敬的 Fadil:
感谢您的答复。 在 PC 上设置时、我运行了此命令。 我是否也必须在电路板上执行此操作?
正如我在这里看到的、事实并非如此: github.com/.../08_06_00_03
我是否错过了某个步骤?
好的
Ashay
您好、Ashay、
您是正确的,您不需要在 EVM 上运行该安装命令(除了 AM62),这个缺失的文件(register.h)应该是默认文件系统的一部分。 您能否确认您尝试运行的器件?
此外、您能否确认/usr/include/tensorflow 目录是否存在以确保文件系统正常运行。
谢谢。
Fadil
尊敬的 Fadil:
感谢您的答复。
我们使用 J721s2。 我在上述路径中找不到该目录。 如何解决此问题?
谢谢。
Ashay
尊敬的 Ashay:
很抱歉这么晚才回复。
这个文件夹应该是 SDK 安装的一部分,你可以重新安装 SDK 一次并 检查,也可以分享你用来安装 SDK 的步骤以及你使用的 targetfs 名称。
谢谢。此致、
Fadil
大家好、Fadil、谢谢、我会再来看看、让您知道它是如何发展的。 仅供我参考、您能否指出是否有一组说明/手册可供我参考以确保我没有错过任何内容?
好的
Ashay
尊敬的 Fadil:
我能够按预期刷写并获得目录结构。 正如您所提到的、缺少 tensorflow 文件夹似乎是原因。 我能够让一些模型也运行、并生成相应的输出图像作为测试。 但是、查看命令行输出后发现、并非所有模型都能成功运行
[ {'Completed_Model': 0, 'Name': 'cl-tfl-mobilenet_v1_1.0_224', 'Total time': '1.54', 'Offload Time': '1.53', 'DDR RW MBs': '18446744073709.52', 'Output File': 'py_out_cl-tfl-mobilenet_v1_1.0_224_airshow.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '1.61', 'Ref Offload Time': '1.6', 'Diff in Total Time %': '-4.35', 'Performance Status': 'PASS', 'rt type': 'tfl-py' }, {'Completed_Model': 1, 'Name': 'ss-tfl-deeplabv3_mnv2_ade20k_float', 'Total time': '12.71', 'Offload Time': '12.69', 'DDR RW MBs': '18446744073709.52', 'Output File': 'py_out_ss-tfl-deeplabv3_mnv2_ade20k_float_ADE_val_00001801.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '12.74', 'Ref Offload Time': '12.72', 'Diff in Total Time %': '-0.24', 'Performance Status': 'PASS', 'rt type': 'tfl-py' }, {'Completed_Model': 2, 'Name': 'od-tfl-ssd_mobilenet_v2_300_float', 'Total time': '6.42', 'Offload Time': '6.40', 'DDR RW MBs': '18446744073709.52', 'Output File': 'py_out_od-tfl-ssd_mobilenet_v2_300_float_ADE_val_00001801.jpg', 'Functional': 'PASS', 'info': 'Failed : diff in total time > 2.', 'Ref Total Time': '6.23', 'Ref Offload Time': '6.21', 'Diff in Total Time %': ' 3.05', 'Performance Status': 'FAIL', 'rt type': 'tfl-py' }, {'Completed_Model': 3, 'Name': 'cl-ort-resnet18-v1', 'Total time': '2.41', 'Offload Time': '2.28', 'DDR RW MBs': '0', 'Output File': 'py_out_cl-ort-resnet18-v1_airshow.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '2.47', 'Ref Offload Time': '2.38', 'Diff in Total Time %': '-2.43', 'Performance Status': 'PASS', 'rt type': 'ort-py' }, {'Completed_Model': 4, 'Name': 'cl-ort-caffe_squeezenet_v1_1', 'Total time': '1.32', 'Offload Time': '1.19', 'DDR RW MBs': '0', 'Output File': 'py_out_cl-ort-caffe_squeezenet_v1_1_airshow.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '1.31', 'Ref Offload Time': '1.17', 'Diff in Total Time %': ' 0.76', 'Performance Status': 'PASS', 'rt type': 'ort-py' }, {'Completed_Model': 5, 'Name': 'ss-ort-deeplabv3lite_mobilenetv2', 'Total time': '9.28', 'Offload Time': '9.09', 'DDR RW MBs': '0', 'Output File': 'py_out_ss-ort-deeplabv3lite_mobilenetv2_ADE_val_00001801.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '11.01', 'Ref Offload Time': '10.86', 'Diff in Total Time %': '-15.71', 'Performance Status': 'PASS', 'rt type': 'ort-py' }, {'Completed_Model': 6, 'Name': 'od-ort-ssd-lite_mobilenetv2_fpn', 'Total time': '11.42', 'Offload Time': '11.07', 'DDR RW MBs': '0', 'Output File': 'py_out_od-ort-ssd-lite_mobilenetv2_fpn_ADE_val_00001801.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '11.31', 'Ref Offload Time': '10.98', 'Diff in Total Time %': ' 0.97', 'Performance Status': 'PASS', 'rt type': 'ort-py' }, {'Name': 'cl-dlr-onnx_mobilenetv2_device', 'Total time': '3', 'Offload Time': '0', 'DDR RW MBs': '0', 'rt type': 'dlr-py', 'Functional': 'FAIL', 'info': 'op not detected', 'Completed_Model': 7 }, {'Name': 'cl-dlr-tflite_inceptionnetv3_device', 'Total time': '10.27', 'Offload Time': '0', 'DDR RW MBs': '0', 'rt type': 'dlr-py', 'Functional': 'FAIL', 'info': 'op not detected', 'Completed_Model': 8 }, {'Completed_Model': 9, 'Name': 'od-tfl-ssd_mobilenet_v2_300_float', 'Total time': '6.339750', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_od-tfl-ssd_mobilenet_v2_300_float.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '6.23', 'Ref Offload Time': '6.21', 'Diff in Total Time %': ' 1.76', 'Performance Status': 'PASS', 'rt type': 'tfl-cpp' }, {'Completed_Model': 10, 'Name': 'ss-tfl-deeplabv3_mnv2_ade20k_float', 'Total time': '12.650350', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_ss-tfl-deeplabv3_mnv2_ade20k_float.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '12.54', 'Ref Offload Time': '0', 'Diff in Total Time %': ' 0.88', 'Performance Status': 'PASS', 'rt type': 'tfl-cpp' }, {'Completed_Model': 11, 'Name': 'cl-tfl-mobilenet_v1_1.0_224', 'Total time': '1.644800', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_cl-tfl-mobilenet_v1_1.0_224.jpg', 'Functional': 'PASS', 'info': 'Failed : diff in total time > 2.', 'Ref Total Time': '1.5', 'Ref Offload Time': '0', 'Diff in Total Time %': ' 9.65', 'Performance Status': 'FAIL', 'rt type': 'tfl-cpp' }, {'Completed_Model': 12, 'Name': 'ss-ort-deeplabv3lite_mobilenetv2', 'Total time': '9.074700', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_ss-ort-deeplabv3lite_mobilenetv2.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '10.63', 'Ref Offload Time': '0', 'Diff in Total Time %': '-14.63', 'Performance Status': 'PASS', 'rt type': 'ort-cpp' }, {'Completed_Model': 13, 'Name': 'cl-ort-resnet18-v1', 'Total time': '2.080100', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_cl-ort-resnet18-v1.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '2.31', 'Ref Offload Time': '0', 'Diff in Total Time %': '-9.95', 'Performance Status': 'PASS', 'rt type': 'ort-cpp' }, {'Completed_Model': 14, 'Name': 'od-ort-ssd-lite_mobilenetv2_fpn', 'Total time': '11.377950', 'Offload Time': '0', 'DDR RW MBs': '0', 'Output File': 'cpp_out_od-ort-ssd-lite_mobilenetv2_fpn.jpg', 'Functional': 'PASS', 'info': '', 'Ref Total Time': '11.33', 'Ref Offload Time': '0', 'Diff in Total Time %': ' 0.42', 'Performance Status': 'PASS', 'rt type': 'ort-cpp' }, {'Name': 'cl-dlr-onnx_mobilenetv2_device', 'Total time': '2.11', 'Offload Time': '0', 'DDR RW MBs': '0', 'rt type': 'dlr-cpp', 'Functional': 'FAIL', 'info': 'op not detected', 'Completed_Model': 15 }, {'Name': 'cl-dlr-tflite_inceptionnetv3_device', 'Total time': '8.95', 'Offload Time': '0', 'DDR RW MBs': '0', 'rt type': 'dlr-cpp', 'Functional': 'FAIL', 'info': 'op not detected', 'Completed_Model': 16 } ]
您能否提供一些见解、了解为什么会出现这种情况?
谢谢。此致
Ashay
您好、Ashay、
您可以忽略终端上的 ./edgeai-tidl-tools/output_images
"通过"和"失败"打印输出,并可通过直观比较提供的参考图像来验证您的设置。 这些输出图像可以与中的预期输出进行比较 。 /edgeai-tidl-tools/test_data/refs-pc-{soc}
Thanks and Regards
Fadil
尊敬的 Fadil:
并非参考文件夹中存在的所有图像都已生成。 因此、我开始查看命令行上的日志。 这是否意味着未加载所有模型?
好的
Ashay
您好!
从您的日志来看、DLR 模型似乎在编译或推理中存在一些问题。 如果你不打算 使用 新爱 DLR 框架,你可以忽略这一点,并推进你所需的框架(onnx RT, tflite RT 或 tidlrt ),否则,你可以分享你 用于编译模型的步骤?
谢谢
尊敬的 Fadil:
我刚刚按照文档中提到的步骤刷写卡。 然后、我按照边缘 ai tidl Hub repo 中提到的步骤在 TDA4上运行模型推理。
好的
Ashay
您好、Ashay、
您能否共享 DLR 模型的运行日志? 可以单独使用运行 DLR 模型
cd edgeai-tidl-tools/examples/osrt_python/TVM_DLR
python3 dlr_inference_example.py
EVM 上的 JTAG 接口。
谢谢
Fadil
尊敬的 Fadil:
感谢您的答复。 很遗憾、在星期二之前、我无法为您提供这些内容。
好的
Ashay