This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
尊敬的 Champs:
客户希望在 TMU 中使用以下指令 sqrtf32来执行平方根运算。 他们想知道、该指令的操作结果的准确度/精度是多少?
谢谢!
朱莉娅
对于 Tmu sqrt、预期精度为1ULP (最低精度的单位)。
谢谢。
Sira