javascript - js浮点数计算,为什么多出很多浮点数
本文介绍了javascript - js浮点数计算,为什么多出很多浮点数的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
问 题
控制台输入
396-392.04得出下面这个 而不是3.96
3.9599999999999795
解决方案
之所以会出现运算错误,是因为有一些十进制数的小数无法转换成二进制数。例如,十进制数 0.1,就无法用二进制数(计算机内部使用二进制运算)正确表示,小数点后面即使有几百位也无法表示。
这里也有个类似的问题
这篇关于javascript - js浮点数计算,为什么多出很多浮点数的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!
查看全文