TMS320F2800137: 对32位浮点数的计算精度是多少

Part Number: TMS320F2800137

对float32_t类型的变量sum、step进行计算如下:

sum = sum+step;

问step的值必须大于多少才不至于被忽略?

 

  • 遵照的是IEEE 754标准,比较通用的公式如下。


    step不被忽略的最小值:
    step_min = sum × FLT_EPSILON
    step_min = sum × 1.19209e-7f
    或者更保守的估计(考虑舍入误差累积):

    step_min = sum × (2 × FLT_EPSILON)
    step_min = sum × 2.38418e-7f