java - float或double转换为int时的精度问题,如何避免?
本文介绍了java - float或double转换为int时的精度问题,如何避免?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
问 题
例如,当输入float或double类型的数78.88776时,将其变成int类型并乘以1e5后,再转为2进制码时,得到11110000101111110000111,这串数字再转回为十进制时为7888775,与想要获得的正确数字有1的误差,应如何避免呢?
补充:
可以用个笨办法自己写个四舍五入
int i = 0;
if(f>0) //正数
i = (f*10 + 5)/10;
else if(f<0) //负数
i = (f*10 - 5)/10;
else i = 0;
return i;
解决方案
用 BigDecimal 来处理相关问题。BigDecimal 可以任意指定精度来处理数字。相关文章:
http://www.opentaps.org/docs/...
这篇关于java - float或double转换为int时的精度问题,如何避免?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!
查看全文