TI工程师,您好!
我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:
1)发现结果不完全一样,精度误差较大
2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?
3)是什么原因造成的?是乘法运算?float精度不够?
谢谢!
This thread has been locked.
If you have a related question, please click the "Ask a related question" button in the top right corner. The newly created question will be automatically linked to this question.
TI工程师,您好!
我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:
1)发现结果不完全一样,精度误差较大
2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?
3)是什么原因造成的?是乘法运算?float精度不够?
谢谢!
我理解应该是数据表示字长的影响,DSP中的浮点处理一般是float(单精度浮点),而matlab默认使用的是double(双精度浮点),
这两个可以表示的数据精度是不一样的。