我在开发时,遇到这样一种场景:
1.需要传递浮点数, 将浮点数转成int或者uint类型传输。(固定条件不能改)
2.例如传递65.533, 那么把这个数乘以1000,变成65533,然后再传输。
遇到的问题是,我用float类型保存65.533,结果他在内存中的保存形式为65.5329971, 乘以1000然后取整变成了65532!
解决方法:经过他人指导,采用round()函数,将变量四舍五入,然后在转成整数就可以了。
float tt = 65.533;
int ans = static_cast<int>(1000*tt); //65532
int ans2 = static_cast<int>(round(1000*tt)); //65533

在编程中,当需要将浮点数转换为整数并保持精度时,可能会遇到因浮点数精度限制导致的误差。本文通过一个实例展示了在传递65.533时,直接转换会得到65532而不是期望的65533。解决方案是使用round()函数进行四舍五入,确保转换后的整数正确。此问题涉及到浮点数的内存表示和类型转换的细节。
397

被折叠的 条评论
为什么被折叠?



