前提条件:
1、在函数中对浮点参数使用了乘法、除法、加减、sqrt、atan2f、cos运算
2、将浮点类型的计算结果强制转换为无符号整型
结果:
1、大部分情况下计算结果正常,正常指的是:1)浮点数据 < 0时,无符号整型 = 0;2)浮点数 >= 0时,无符号整型取整数部分。
2、极少数情况出现异常,异常时无符号整型只出现0和65535
提问:
1、在前提条件1中,在进行较多的浮点运算时,计算结果是否会卡死在一个异常的值?
2、在前提条件2中,在进行浮点强制转换整型时,是否有可能出现异常?