Python十进制&；包提供错误的结果 [英] Python "decimal" package gives wrong results
本文介绍了Python十进制&；包提供错误的结果的处理方法，对大家解决问题具有一定的参考价值，需要的朋友们下面随着小编来一起学习吧！
问题描述
我尝试通过设置getcontext().prec = 800计算以下结果。
>>> from decimal import *
>>> getcontext().prec = 800
>>> Decimal(22.0) / Decimal ( 10.0) - Decimal ( 0.2 )
Decimal('1.999999999999999988897769753748434595763683319091796875')
>>>
但预期结果为2。我哪里做错了？
推荐答案
从浮点数构造小数时，会得到浮点数的精确值，但可能与小数值不完全匹配，因为浮点数就是这样工作的。
如果要进行精确的小数运算，请使用字符串而不是浮点数来构造Decimal对象：
>>> Decimal('22.0') / Decimal('10.0') - Decimal('0.2')
Decimal('2.0')
这篇关于Python十进制&；包提供错误的结果的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！
查看全文
