Other Parts Discussed in Thread: TDA4VM
器件型号: TDA4VM
大家好、我想知道是否有任何方法可以在 TDA4VM 平台上运行基于变压器的模型。 我希望能够对我的问题陈述进行快速关注。
我注意到模型编译器说不支持变压器模型层。 这是路线图功能吗? 如果是这样,那么我什么时候可以期待看到它在我的结束测试
我还想了解对 TF Lite 模型和 ONNx 模型的支持,我们能否直接在平台上运行这些模型?
谢谢、
Ahan
This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
尊敬的 Ahan:
我们只通过 ONNX 支持视觉变压器模型。 我们的 Model Zoo 包含 TIDL 可以支持的模型列表: https://github.com/TexasInstruments/edgeai-tensorlab/tree/main/edgeai-hf-transformers
有关特定变压器操作状态的更多信息、请查看此处的文档: https://github.com/TexasInstruments/edgeai-tidl-tools/blob/master/docs/tidl_fsg_vtfr.md
还取决于您所使用的 TIDL 版本。
为了支持非变压器型号、我们既有 TFlite、Caffe、也有 ONNX。 它们可以直接在平台上运行。 请按照此处所示的有关如何在目标上部署的步骤: https://github.com/TexasInstruments/edgeai-tidl-tools/tree/11_01_07_00#benchmark-on-ti-soc
此致、
Christina