浮点比较中的问题 [英] problems in floating point comparison

问题描述

void main()
{
    float f = 0.98;
    if(f <= 0.98)
        printf("hi");
    else
        printf("hello");
    getch();
}

我在这里遇到了这个问题.在使用 f 的不同浮点值时，我得到了不同的结果.为什么会这样?

I am getting this problem here.On using different floating point values of f i am getting different results. Why this is happening?

推荐答案

f 使用 float 精度，但 0.98 使用 double 精度默认情况下，语句 f <= 0.98 使用 double 精度进行比较.

f is using float precision, but 0.98 is in double precision by default, so the statement f <= 0.98 is compared using double precision.

f 因此在比较中转换为 double，但可能会使结果略大于 0.98.

The f is therefore converted to a double in the comparison, but may make the result slightly larger than 0.98.

使用

if(f <= 0.98f)

或者使用 double 代替 f.

详细...假设 float 是 IEEE 单精度 和 double 是 IEEE 双精度.

In detail... assuming float is IEEE single-precision and double is IEEE double-precision.

这些类型的浮点数以 base-2 表示形式存储.在 base-2 中，这个数字需要无限精度来表示，因为它是一个重复的小数:

These kinds of floating point numbers are stored with base-2 representation. In base-2 this number needs an infinite precision to represent as it is a repeated decimal:

0.98 = 0.1111101011100001010001111010111000010100011110101110000101000...

一个float只能存储24位有效数字，即

A float can only store 24 bits of significant figures, i.e.

       0.111110101110000101000111_101...
                                 ^ round off here
   =   0.111110101110000101001000

   =   16441672 / 2^24

   =   0.98000001907...

一个double可以存储53位有效数字，所以

A double can store 53 bits of signficant figures, so

       0.11111010111000010100011110101110000101000111101011100_00101000...
                                                              ^ round off here
   =   0.11111010111000010100011110101110000101000111101011100

   =   8827055269646172 / 2^53

   =   0.97999999999999998224...

因此 float 中的 0.98 会稍大，而 double 中的 0.98 会变小.

So the 0.98 will become slightly larger in float and smaller in double.

这篇关于浮点比较中的问题的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！