转换值2位小数 [英] Convert the value 2 decimals

查看:90
本文介绍了转换值2位小数的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

If Conversion.Val(.get_TextMatrix(i, 6)) > 0 Then
         lCrAmt = lCrAmt +Math.Round(Conversion.Val(.get_TextMatrix(i, 8)),2)
     End If





先生Conversion.Val(.get_TextMatrix(i,8))= 92.170000004这是错的

Conversion.Val(.get_TextMatrix(i,8))= 92.17它是corrct



如何获得以下价值请给我解决方案先生



我尝试了什么:





sir Conversion.Val(.get_TextMatrix(i, 8))=92.170000004 it is wrong
Conversion.Val(.get_TextMatrix(i, 8))=92.17 it is corrct

how to get below value please give me solution sir

What I have tried:

Conversion.Val(.get_TextMatrix(i, 8))=92.17 it is correct 

推荐答案

不是没有错。请参阅每个计算机科学家应该知道的关于浮点运算的内容 [ ^ ]。
No it is not wrong. See What Every Computer Scientist Should Know About Floating-Point Arithmetic[^].


这篇关于转换值2位小数的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆