Xcode Obj-C为什么7/10不是0.7 [英] Xcode Obj-C Why is 7/10 not 0.7

问题描述

int a=7
int b=10
float answer = (float)a/b;

answer = 0.699999988(我预计为0.7?)

answer=0.699999988 ( I expect 0.7 ??)

推荐答案

简短的版本是:浮点数不准确，它只是一组有限的位，而一组有限的位不能用于表示无限集数字.

The short version is: Floating points are not accurate, it's only a finite set of bits, and a finite set of bits cannot be used to represent an infinite set of numbers.

更长的版本在这里:每个计算机科学家应该做什么了解浮点算法

另请参阅:

如何存储浮点数?什么时候重要?

为什么我的数字不正确地四舍五入?

这篇关于Xcode Obj-C为什么7/10不是0.7的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！