Excel浮点数 - 实际使用的类型 [英] Excel Floating Point Arihmetic - What Type Does It Actually Use

查看:149
本文介绍了Excel浮点数 - 实际使用的类型的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

从以前的问题中,有人表示Excel使用64位(8字节)双精度浮动。

From a previous questions someone indicated that Excel uses a 64 bit (8 byte) double-precision floating.

是否正确 - 是否有任何材料所有?

Is that correct - Is there any material on this at all?

我试图扣除数字,这是杀了我!

I am trying to tie off numbers and this is killing me!

推荐答案

根据这个文章,它使用64位双精度浮点数。该文章还描述了与此格式相关联的舍入误差等。

According to this article yes, it uses 64 bit double precision floating point numbers. The article also describes the rounding errors etc associated with this format.

这篇关于Excel浮点数 - 实际使用的类型的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆