ieee-754相关内容

可能影响双精度的最大小数位数

考虑十进制表示形式d1.d2d3d4d5 ... dnExxx其中xxx是一个任意的指数,而d1和dn都是非零的。 最大的n是已知的使得存在十进制表示d1.d2d3d4d5 ... dnExxx,使得间隔(d1.d2d3d4d5 ... dnExxx,d1.d2d3d4d5 ...((dn)+1)Exxx)包含IEEE 754 double? p> 至少应该是17个。问题是17以上有多 ..
发布时间:2017-12-19 22:45:15 其他开发

IEEE 754为什么保留这么多的NaN值?

看起来,IEEE 754标准定义了16,777,214个32位浮点值作为NaN,或0.4%的所有可能的值。 我想知道什么是理由为了保留这么多有用的价值,而只有2个基本上需要:一个用于信号和一个安静的钠。 对不起,如果这个问题是微不足道的,我找不到任何解释在互联网上。 解决方案 IEEE-754标准定义一个NaN作为指数中的所有1的数字,一个非零的有效数。有效位中的最高位指定Na ..
发布时间:2017-12-19 22:45:05 其他开发

如何减去IEEE 754号码?

例如:0,546875 - 32.875 ... 如何减去IEEE 754数字?在IEEE-754中$ 0111110 10001100000000000000000 - > -32.875 is 1 10000111 01000101111000000000000 in IEEE-754 那我该怎么做减法呢?我知道我必须让这两个指数平等,但是在那之后我该做什么? 2'-32.8 ..
发布时间:2017-12-19 22:44:32 其他开发

NaN的位模式是否真的依赖于硬件?

我正在阅读Java语言规范中的浮点型NaN值(我很无聊)。 32位 float 具有以下格式: seee eeee emmm mmmm mmmm mmmm mmmm mmmm s 是符号位, e 是指数位, m 是尾数位。 NaN值被编码为全1的指数,并且尾数位不全是0(这将是+/-无穷大)。这意味着有许多不同的可能的NaN值(具有不同的 s 和 m 位值)。 ..
发布时间:2017-12-19 22:43:29 Java开发

非规范化数字 - IEEE 754浮点数

所以我想了解更多关于IEEE 754浮点数标准中定义的非规范化数字。我已经阅读了几篇文章,感谢谷歌的搜索结果,我已经通过了几个StackOverFlow职位。然而,我仍然有一些问题没有得到答复。 首先,回顾一下我对非规范化浮动的理解: 具有较少比特精度的数字,比标准化数字小( 大小) 本质上,非规格化的float可以表示可以用任何浮点值表示的SMALLEST(数量级)数字。这是 ..
发布时间:2017-12-19 22:40:55 其他开发

做任何真实世界的CPU不使用IEEE 754?

我正在为一个数字/统计库优化一个排序函数,这个假设是在过滤掉任何NaN并做了一点点操作之后,浮点数可以作为32位整数进行比较,而不会改变结果并且可以加倍比较为64位整数。 这似乎加快了将这些数组排序在40%左右的程度,而且只要浮点数的位级表示是IEEE 754.是否有任何人们真正使用的CPU(不包括嵌入式设备,这个库不是针对的)使用一些其他的表示方法,可能会打破这个假设? 有缺陷的奔腾 ..
发布时间:2017-12-19 22:40:16 其他开发

为什么我们偏向浮点数的指数?

我试图用二进制数字的浮点数来表达我的头,但我无法找到,无论我在哪里看,这个问题的答案都很好。 为什么指数有偏差? 好的旧可靠的补码法有什么问题? 解决方案IEEE 754编码具有一个方便的性质,即通过按照字典顺序比较相应的位串,或者等价地将这些位串解释为无符号的,可以在两个正的非NaN数之间执行顺序比较整数和比较这些整数。这适用于从+0.0到+ Infinity的整个浮点范围(然 ..
发布时间:2017-12-19 22:40:06 其他开发

为什么4 * 0.1的浮点值在Python 3中看起来不错,但是3 * 0.1却没有?

我知道大多数小数没有精确的浮点数表示(浮点数学是否被破坏?) p> 但是我不明白为什么 4 * 0.1 很好地打印为 0.4 ,但是 3 * 0.1 不是,当 这两个值实际上都有难看的十进制表示形式时: >>> 3 * 0.1 0.30000000000000004 >>> 4 * 0.1 0.4 >>> from decimal import Decimal >>>十 ..
发布时间:2017-12-19 22:38:16 Python

在JS中读取/写入浮点字节

有什么办法可以读取JS中的浮点值的字节?我需要的是写一个原始的FLOAT或DOUBLE值成为我需要的二进制格式,那么有什么办法可以得到一个字节接一个字节的IEEE 754表示?同样的问题,当然写。 解决方案 这段代码有帮助吗? @ Kevin Gadd : var parser = new BinaryParser ,forty = parser .encodeFloat( ..
发布时间:2017-12-19 22:33:12 前端开发

为什么浮点数打印如此不同?

(大多数)浮点数不是精确存储的(当使用IEEE-754格式时)。所以不应该这样做: 0.3 - 0.2 === 0.1; //非常错误 ...因为它会导致 false ,除非使用了一些特定的任意精度类型/类(BigDecimal在 Java / Ruby ,PHP中的 BCMath , Math :: BigInt / )等等。然而,我想知道为什么当你试图打印结 ..
发布时间:2017-12-19 22:30:55 PHP

哪个是IEEE 754浮点数不能精确表示的第一个整数?

$ b float f0 = 0为了清楚起见,如果我使用的是实现IEE 754浮点数的语言, 。F; float f1 = 1.f; ...然后打印出来,我会得到0.0000和1.0000。 / p> 但是IEEE 754并不能代表真实线路上的所有数字。接近于零,“差距”很小;因此,我的问题是:对于IEEE 754浮点数,这是第一个(最接近于零)的浮点数,整数 ..
发布时间:2017-12-19 22:19:40 其他开发

在16,32和64位IEEE-754系统中可以表示的范围是什么?

我知道一点关于如何表示浮点数,但恐怕还不够。 总的问题是: 对于一个给定的精度(对于我来说,基数为10的精确小数位数),可以表示16,32 - 和64位IEEE-754系统? 具体来说,我只对16位和32位系统感兴趣,位数精确到+/- 0.5(一个地方)或+/- 0.0005(千分之一位置)。 解决方案 从MATLAB文档中为函数绘制答案 EPS a>,但它应该普遍适用于 ..
发布时间:2017-12-19 22:19:11 其他开发

为什么Excel不符合8字节的IEEE 754

以下表达式计算为C#中的 false : 1 + 1 + 0.85)/ 3 我想它在大多数其他编程语言实现IEEE 754,因为(1 + 1 + 0.85)/ 3 评估为 0.95000000000000007 ,这是更大的比 0.95 。 然而,即使 Excel应该实现IEEE 754的大部分,以下在Excel 2013中评估为TRUE: =((1 + ..
发布时间:2017-09-04 02:20:03 Office

浮点数运算中的齐平零行为

尽管如此,据我所知,IEEE 754并没有提到一个冲洗到零模式来处理非规范化数字更快,一些架构提供此模式(例如 http:// docs.sun.com/source/806-3568/ncg_lib.html )。 在本技术文档的特定情况下,对非规范化数字进行标准处理是默认值,必须明确激活flush-to-zero。在默认模式下,非规范化的数字也可以在软件中处理,这是较慢的。 我在嵌 ..
发布时间:2017-08-15 19:41:31 HTML/CSS

如何计算计算误差

考虑下面的例子。有一个图像,用户可以选择矩形区域(部分)。图像以一定比例显示。然后我们改变规模,我们需要重新计算新的选择坐标。我们来吧宽度 newSelectionWidth = round(oldSelectionWidth / oldScale * newScale) / pre> 其中 oldScale = oldDisplayImageWidth / realImag ..

所有32位整数都可以用双精度表示

可能重复: 哪个是IEEE 754 float无法正确表示的第一个整数? 这是基本的问题,我的感觉是答案是肯定的(int = 32位,double = 53位mantisa +符号位)。 基本上可以断言? int x = get_random_int ; double dx = x; int x1 =(int)dx; assert(x1 == x); if ..
发布时间:2017-07-12 01:06:16 其他开发语言