为什么我需要17显著位（而不是16）重新present双？
能有人给我一个浮点数（双precision），需要超过16显著小数位数重新present的例子吗？ 我
..
floating-accuracy相关内容
在C ++中做数学运算时如何浮点错误传播？
让我们说，我们已经声明了以下变量 浮动= 1.2291; 浮动B = 3.99; 浮动变量有precision 6，它（如果我理解正确）表示数之间的差异，计算机实际存储和实际数字，你希望将小于 10 ^ -6 这意味着两个 A 和 B 有一些误差小于 10 ^ -6 所以，在电脑里面 A 实际上可能是 1.229100000012123 和 B 可能是 3.9900000191919
..
司和浮点
有人能帮助我，为什么X2打印零。 我猜是因为浮点重新presentation X1四舍五入，有没有办法让precession。 长双X1，X2; X1 = 0.087912088; //注：4095分之360= 0.087912088 X2 =四千○九十五分之三百六; 的printf（“％LF，％LF \\ N”，X1，X2）; 结果： X1 = 0.087912 X2 = 0.00000
..
漂浮在C奇怪IM precision错误
今天发生在我身上一个奇怪的东西，当我尝试编译并执行此code的输出是不是我的预期。这里是code，简单地浮动值添加到一个float数组，然后打印出来。 简单的code： INT的main（）{ 浮 - [R [10]; INT Z者除外; INT I = 34; 对于（Z = 0; z，其中; 10; Z ++）{ 我= Z * Z * Z;
..
浮点数IM precision在迭代
我有一个计算的三维点功能，间距根据范围内的值 [0,1] 。的我面临的问题是，一个二进制浮点数无法重新present正好1。的 这是在函数计算数学前pression能够计算一个值 T = 1.0 ，但该值将永远不会被函数接受因为它检查是否在计算范围之前。 curves_error curves_bezier（curves_PointList *名单，curves_Point * DEST，c
..
你如何找到一个浮动的最接近的非同等价值？
A 浮动（又称单）值是一个4字节的值，并且应该重新present任何实际值数。的，因为它被格式化的方式，它是由关字节的有限数目，有一个最小值，它可以重新present一个最大值，并且它有一个有限precision，取决于它本身的价值。 我想知道是否有一种方式来获得高于或低于一定的参考价值最接近的可能值，给出一个浮动的有限precision。用整数，这是微不足道的：一是简单地加上或减去1。但以浮动
..
C'S POW（）函数每头文件＆LT;＆math.h中GT;工作不正常
我看到以下code产生如下的结果，为什么是任何想法的输出也是这样吗？ 的#include＆LT;＆stdio.h中GT; ＃包括LT＆;＆math.h中GT;诠释主（）{ INT I = 0; 对于（I = 0; I＆小于10;我++）{ 的printf（“％d个\\ t \\ t \\ t％d个\\ t \\ t \\ t”的，我，（INT）POW（10，I））
..
浮点运算精度
我无法理解这种程序的输出 INT的main（） { 双X = 1.8939201459282359e-308; 双Y = 4.9406564584124654e-324; 的printf（“％23.16e \\ n”，1.6 * Y）; 的printf（“％23.16e \\ n”，1.7 * Y）; 的printf（“％23.16e \\ n”，1.8
..
为什么从它被设置这种浮动变化的价值？
这是为什么C程序给予“错误”的输出？ ＃包括LT＆;＆stdio.h中GT;无效的主要（） { 浮动F = 12345.054321; 的printf（“％F”，F）; 残培（）; } 输出： 12345.054688 但输出应该是， 12345.054321 。 我在VS2008中使用VC ++。 解决方案 它给“错误”的答案，只是因为不是所有的实值由彩车重新p
..
将浮点格式由big-endian和little endian的影响？
我知道整数格式是大端机和little-endian机之间的不同，是它浮点格式相同（IEEE 754）？ 解决方案 在IEEE754规范浮点数根本不包括字节顺序问题。浮点数因此可以在不同的机器上使用不同的重新presentations和，在理论上，它对于两个处理器整数字节顺序是相同的，浮点不同，或者反之亦然甚至可能 请参阅这个维基百科文章更多信息。
..
印刷浮动，preserving precision
我写，打印浮点文字另一个程序内使用的程序。 多少位，我需要以打印为preserve原浮动的precision？ 由于浮体具有 24 *（日志（2）/日志（10））precision的= 7.2247199 十进制数字，我最初的想法是打印8数字应该够了。但是，如果我倒霉，那些 0.2247199 获得分配到左边和的7位数显著的权利，所以我也许应该打印9十进制数。 是我的分析是正确的？有9十进制
..
C ++浮点precision
可能重复：结果 浮点不精确的例子 双A = 0.3; 。性病::法院precision（20）; 性病::法院LT＆;＆LT; A＆LT;＆LT;的std :: ENDL; 结果：0.2999999999999999889 双A，B; A = 0.3; B = 0; 对于（CHAR I = 1; I＆LT; = 50;我++）{ B = B + A; }; 。性病::法院precisi
..
浮点平等和公差
的东西比较两个浮点数像 a_float == b_float 是因为找麻烦a_float / 3.0 * 3.0 可能不等于 a_float 由于舍入误差。 什么一般人不会是像晶圆厂（a_float - b_float）LT; TOL 。 如何计算 TOL ？ 理想情况下容限应仅比一个或两个的至少显著数字的值大。因此，如果单precision浮点数是使用 TOL = 10E-6 应该是对的。
..
如何危险的是它比较浮点值？
我知道，因为该决议独立的UIKit 使用 CGFloat的坐标系。 但我想检查是否例如 frame.origin.x 是每次 0 这让我感到生病的： 如果（theView.frame.origin.x == 0）{ //做重要的操作 } 不是 CGFloat的与比较时容易误报== ，＆LT = ，＆GT; = ，＆LT; ，＆GT ; ？ 这是一个浮点和他们未precision问题
..
如何获得BC科学（又名指数）表示法来处理数字？
BC 不喜欢数字EX $ P $科学记数法pssed（又名指数表示法）。 $回声“3.1e1 * 2”| BC -l （standard_in）1：解析错误 但我需要用它来处理在这个符号pssed前$ P $几个记录。有没有办法让 BC 了解指数符号？如果不是这样，我有什么办法将其转化为一种格式， BC 会明白？ 解决方案 不幸的是， BC 不支持科学记数法。 但是，它可以转化为一种格
..
格式化浮点数而不AngularJS precision损失
在AngularJS如何在HTML页面中做I输出一个浮点数，而不precision的损失和避免不必要的填充与0？ 我认为是“数字”NG-过滤器（ https：//开头的文档。 angularjs.org/api/ng/filter/number ），但fractionSize参数导致固定数量的小数位数： {{number_ex pression |编号：fractionSize}} 我在
..
转换像素的分辨率进行MDPI和HDPI屏幕
我用这code，我已经在另一个线程这是工作的罚款于mdpi屏幕发现： 公共静态浮动convertDpToPixel（浮DP，上下文的背景下）{ 资源资源= context.getResources（）; DisplayMetrics度量= resources.getDisplayMetrics（）; 浮动PX = DP *（metrics.dens
..
凡在本C＃中的财务计算的浮点问题？
我收到一条FIX消息的交易分配，在价格给出的美分的（ZAR / 100），但佣金给出的兰特的。这些值再由常数psented $ P $。当我运行这个计算， commPerc1 显示0.099999999999999978一个值， commPerc2 显示0.1。这些值看起来由X10不同，但与计算返回的支票的兰特的，无论是 commRands1 和 commRands2 显示的分别为336.4831
..
在一些用C n次方根precision错误++
我知道，从previous线程关于这个主题，使用float运算导致precision异常。但有趣的是我观察到了同样的功能表现两种不同的方式。照片使用COUT输出 4 的，但如果我保存结果到一个变量，那么结果为 3 ！ 的#include＆LT;的iostream＆GT; ＃包括＆LT; CMATH＆GT; 使用名字空间std; ＃定义MOD 1000000007 得到long long int
..
佩恩Hanek算法的实现用C
我努力理解如何实现由佩恩和Hanek（范围缩小为三角函数）公布的范围缩小算法 我已经看到有这个库： http://www.netlib.org/fdlibm/ 不过，在我看来如此扭曲，所有的理论解释我已经创办过于简单，提供一个实现。 有没有一些好......好......好它的解释？ 解决方案 通过佩恩 - Hanek的算法进行参数减少三角函数实际上是pretty的简单。与其他参数减排项
..