javascript - js浮点数计算,为什么多出很多浮点数

查看:132
本文介绍了javascript - js浮点数计算,为什么多出很多浮点数的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

问 题

控制台输入

396-392.04得出下面这个 而不是3.96
3.9599999999999795

解决方案 go

解决方案

之所以会出现运算错误,是因为有一些十进制数的小数无法转换成二进制数。例如,十进制数 0.1,就无法用二进制数(计算机内部使用二进制运算)正确表示,小数点后面即使有几百位也无法表示。
这里也有个类似的问题

这篇关于javascript - js浮点数计算,为什么多出很多浮点数的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆