评估100 * 2.55值时得到错误的结果 [英] Getting wrong result for evaluation of 100 * 2.55 values

查看:50
本文介绍了评估100 * 2.55值时得到错误的结果的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

使用以下方法我得到错误的结果.

I am getting wrong result using below method.

public double evaluate(final double leftOperand, final double rightOperand) {
        Double rtnValue = new Double(leftOperand * rightOperand);
        return rtnValue.doubleValue();
    }

输入参数值是:leftOperand = 100和rightOperand = 2.55

Enter Parameter value are: leftOperand= 100 and rightOperand=2.55

我得到了错误的答案: 254.99999999999997

I am getting Wrong answer: 254.99999999999997

正确答案是 255.0

推荐答案

使用 BigDecimal

BigDecimal bd = new BigDecimal("100");
BigDecimal ans = bd.multiple(new BigDecimal("2.55"));
System.out.println(ans);

另请参见

在Java中使用double保留精度

这篇关于评估100 * 2.55值时得到错误的结果的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆