用十进制数修复浮点精度 [英] Fix float precision with decimal numbers

问题描述

a = 1

for x in range(5):
    a += 0.1
    print(a)

这是结果：

1.1
1.2000000000000002
1.3000000000000003
1.4000000000000004
1.5000000000000004

我如何修复此问题？round()函数是唯一的方法吗？我可以在设置变量的值之前设置其精度吗？

推荐答案

我可以在设置值之前设置变量的精度吗？

使用decimal模块，与float()不同，它提供任意精度并可以精确表示十进制数：

>>> from decimal import Decimal, getcontext
>>> 
>>> getcontext().prec = 5
>>> 
>>> a = Decimal(1)
>>> 
>>> for x in range(5):
...     a += Decimal(0.1)
...     print(a)
... 
1.1000
1.2000
1.3000
1.4000
1.5000

这篇关于用十进制数修复浮点精度的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！