[参考译文] EDGE-AI-STUDIO：如何访问 edgeai-gui-app 的日志

您好！

我把这个主题提请 EdgeAI 团队的注意。 他们将能够提供最好的协助。

谢谢

Ki

您好！

主日志将是运行 edgeai-init 服务的 systemctl 的一部分。 您将能够通过`journalctl -u edgeai-init`看到这一点

但是、我建议在调试时使用/opt/edgeai-gst-apps 运行您的应用程序--您可以以 root 身份(无密码)登录 EVM、然后从这个目录开始。 我认为从开发角度来看、这会更容易、因为您可以运行应用并直接查看日志。

请参阅此处有关配置此应用程序的文档: https://software-dl.ti.com/jacinto7/esd/processor-sdk-linux-edgeai/AM62AX/latest/exports/edgeai_docs/common/configuration_file.html

• 我建议您使用-n 命令行标签来抑制一些重复打印、这些打印可能会隐藏任何错误消息。

有关 EVM 的启动指南、请参阅快速入门指南： https://dev.ti.com/tirex/content/tirex-product-tree/am62ax-devtools/docs/am62ax_skevm_quick_start_guide.html 

BR、
Reese

[报价 userid="634264" url="~/support/processors-group/processors/f/processors-forum/1469078/edge-ai-studio-how-to-access-log-of-edgeai-gui-app "] 自定义图像分类模型在运行模型时表现不佳 (所有图像/视频或摄像机的识别类相同且静态)。

您能不能为此建议一个解决方案？

此致、

Sajan

您好！

我将向您介绍用于运行和评估定制模型的文档。 下面几行

您是如何创建此模型和编译后的模型工件的？ 这是您自己的架构吗、是从开源集线器建立的、是从 Edge AI Studio 创建的架构？ 我想了解您的模型为何在此面临挑战

对于静态输出、这可能是模型无法初始化的问题。 在目标 SOC 上运行应用程序时、请先执行以下操作、然后在应用程序运行后共享生成的日志：

• `export TIDL_RT_DEBUG=1`在 Linux shell 中#
• /opt/vx_app_arm_remote_log.out &#run TIOVX logger in background
• 初始化运行时(TF lite 或 ONNXruntime)时、设置 DEBUG_LEVEL=2。
  • 对于 edgeai-gst-apps,编辑/usr/lib/python3.10/site-packages/edgeai_dl_inferer.py --在类 onnxrt (我相信你在使用这个运行时),有一组"rununtime_options"。 向其中添加了"Debug_level"：2。
  • 对于 edgeai-tidl-tools、修改 examples/osrt_python/common_utils.py 中的 debug_level
  • 对于 GUI 应用程序、该选项不可用。

调试模型的精度和性能时、一般而言、GUI 应用程序会使这一过程变得更加困难。 这不是为开发而设计的、请参阅 edgeai-gst-apps (在/opt 下)或 edgeai-tidl-tools (在 Github 上)。 我建议在单独保存的图像上使用 Python 脚本--这将更容易复制和分析。 这将是 edgeai-tidl-tools。

• 自定义模型编译和推理指南： https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/custom_model_evaluation.md#new-model-evaluation
• 故障排除指南： https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_osr_debug.md
• 在 python API 中、有一个传递到运行时的选项字典。 应将 DEBUG_LEVEL 设置为1或2以查看更详细的输出。
  • https://github.com/TexasInstruments/edgeai-tidl-tools/tree/master/examples/osrt_python 

但是、请首先在 CPU (在主机 PC 上或在目标器件上使用 CPU 后端)上运行的模型、并确保输出看起来良好。 如果输出不是直接来自 CPU、那么 TIDL 上的同一模型不会具有更高的精度。 在 edgeai-tidl-tools 中、 示例运行时脚本 有一个-d 命令行选项、可"禁用"卸载到 C7xMMA 加速器。

BR、
Reese

Reese、您好！

Unknown 说：

您是如何创建此模型和编译后的模型工件的？

我是使用 edgeai studio Web 应用程序中的模型编写器创建的。 编译后、我得到了一个编译后的模型供下载到本地 PC 中。
在/opt/model_zoo 中安全地复制了解压缩模型。 然后在 allowedmodel.txt 中添加了模型目录的名称、并在/config 文件夹中创建了一个.Yaml 配置文件。

BR、
Sajan

Sajan、您好！

感谢您的澄清。 在静态测试图像上、模型编写器界面中的模型性能是否良好？ 它是否为与训练对象相匹配的不同输入图像提供了不同的结果？

您是否还可以在设备上登录并告诉我运行`echo $EDGEAI_VERSION`的输出？ 您应该使用 SDK 10.0或9.2。 尚未针对几周前发布的 SDK 10.1更新模型编写器。 一旦一个模型被编译,生成的一组"工件"将与一个 SDK 版本关联——然后它们将只适用于该 SDK 版本和 SOC/处理器。

BR、
Reese

您好！

它也无法在 Web 应用程序的实时预览中工作。 我在模型编写器中使用 SDK 9.1工具。 在我的机器中构建的 SDK 10。 但是、当我尝试将模型部署到 EVM 时、发现 SDK v10是板载的、并且不兼容。 因此、我使用9.1的预编译 WIC 映像来加载电路板。

BR、

Sajan

尊敬的 Sajan：

[报价 userid="634264" url="~/support/processors-group/processors/f/processors-forum/1469078/edge-ai-studio-how-to-access-log-of-edgeai-gui-app/5644818 #5644818"]在模型编写器中使用 SDK 9.1工具。 在我的机器中构建的 SDK 10。 但是、当我尝试将模型部署到 EVM 时、发现 SDK v10是板载的、并且不兼容。 因此我将使用9.1的预编译 WIC 映像加载电路板。

好的、这是问题的一部分。 请确保模型编写器 SDK 目标和 EVM/目标器件上的 SDK 设置之间的 SDK 版本一致。

为了澄清这一点、您使用了9.1 through 模型编写器来训练和编译模型。 然后、您尝试了 SDK 10.0、但失败了。 之后、您加载了9.1映像。 如果为真、则版本应保持一致。

Unknown 说：

在我的机器中构建了 SDK 10。 [报价]

这部分对我来说并不清楚。

除非您有其他理由、否则我的建议是尽可能使用最新的 SDK。 我们的工具在10.0 SDK 时显著提高了稳健性-我建议针对10.0 SDK 编译您的模型、并使用 SDK 10.0加载目标 EVM。

BR、
Reese

好的、明白了。 如果 AM62A EVM 运行9.1 SDK、并将其指定为适用于9.1 SDK 的编译模型、您可以看到这些问题吗？

BR、
Reese

Unknown 说：

如果 AM62A EVM 运行9.1 SDK 时、您的模型存在以下问题、并且您已将此问题提供给自己的编译模型、同时又面向9.1 SDK？

是的、SDK 和编译模型都是9.1。

[报价 userid="360457" url="~/support/processors-group/processors/f/processors-forum/1469078/edge-ai-studio-how-to-access-log-of-edgeai-gui-app/5642616 #5642616"]一组"runtime_options"。 添加"Debug_level"：2

 此代码是否正确。

runtime_options = {                                                   
                    "tidl_tools_path": "null",                                        
                    "artifacts_folder": artifacts,                                    
                    "core_number": core_number,                                       
                    "debug_level": 2,                                                 
                } 

BR、
Sajan

尊敬的 Sajan：

是的、该代码看起来是正确的。 也感谢您提供日志、这很有帮助。

您是否已一时重新启动 EVM？ 当使用 TI 深度学习的程序意外崩溃或正常关闭时、可能会为加速器分配一些内存。 如果发生这样的次数足够多、则可能会由于没有剩余内存而阻止模型初始化。 重新启动即可解决该问题。  

看起来已经发生了这种情况、当模型运行时、它会返回一些未更新的静态数据。 让我们重新启动并重试。

尊敬的 Reese：

我在重启后尝试了很多次。 但没有变化。

BR、

Sajan

尊敬的 Sajan：

好的、没有模型本身就很难进行诊断。 如果您愿意、请在训练和编译后共享整个编译的模型制品文件夹。 如果您愿意、我们可以通过私人消息共享

根据您所说的内容、目前尚不清楚原始模型是否在检测任何事物。  

Unknown 说：

它在 Web 应用程序的实时预览中也不起作用。

所以不是在设备上工作、这听起来好像。 那么、我想弄清楚最后一步是有效的。  

您是否能够在编译屏幕中看到检测到的任何内容/精度似乎正常？  

P.S.、我本周出差工作、可能无法定期回复。 从我在这个主题中看到的内容中、我感觉您的项目中有些地方出错了。 我建议再培训、然后重新编译模型。  

尊敬的 Reese：

我明白你在旅行。 我已经发送了一个请求做私人消息。 在检查该模型之前、我训练了3到4个模型以相同的方式进行检查。 但没有任何功能按预期运行。  

快乐的旅程！

BR、
Sajan

尊敬的 Sajan：

我懂了。 我接受了您的请求并向您发送了一条消息、以便您可以共享版本。 我将回到本主题帖、为将来可能发现此问题的其他人记下任何解决方案

Unknown 说：

我训练了3到4个模型、以同样的方式进行检查。 但没有任何功能按预期运行。  [报价]

这是否意味着您尝试过几次训练相同的模型架构、或者您训练了3-4个不同的模型架构(例如 regnetx 和 MobileNet)？ 我假设您对模型进行了3-4次重新训练、但我想进行确认

BR、
Reese