Part Number: TMS320F2800137
对float32_t类型的变量sum、step进行计算如下:
sum = sum+step;
问step的值必须大于多少才不至于被忽略?
遵照的是IEEE 754标准,比较通用的公式如下。
step不被忽略的最小值:step_min = sum × FLT_EPSILONstep_min = sum × 1.19209e-7f或者更保守的估计(考虑舍入误差累积):
step_min = sum × (2 × FLT_EPSILON)step_min = sum × 2.38418e-7f