significant-digits相关内容

浮点精度是可变的还是不变的?

关于浮点数(即 float、double 或 long double)是否只有一个值，我不断得到不同的答案精度，或具有可以变化的精度值. 一个名为 浮点与双精度的话题似乎暗示浮点精度是一种绝对的. 但是，另一个名为 浮点数和双精度数的区别的话题说， 一般来说，double 具有 15 到 16 个十进制数字的精度 另一个来源说， float 类型的变量通常具有大约 7 ..

发布时间：2022-01-09 19:53:51 binary floating-point decimal floating-point-precision significant-digits 其他开发

可以在不丢失重要性的情况下转换为二进制并返回十进制的最重要的十进制数字精度是 6 还是 7.225?

我遇到过两种不同的浮点数精度公式. ⌊(N-1) log10(2)⌋ = 6 位小数(单精度) 和 N log10(2) ≈7.225 个十进制数字(单精度) 其中 N = 24 有效位(单精度) 第一个公式位于“IEEE 标准的第 4 页顶部754 for Binary Floating-Point Arithmetic"，由 W. Kahan 教授撰写. 第 ..

发布时间：2022-01-09 10:41:42 binary floating-point decimal floating-point-precision significant-digits 其他开发

将双精度舍入到 x 位有效数字

如果我有一个双精度 (234.004223) 等，我想在 C# 中将其四舍五入为 x 位有效数字. 到目前为止，我只能找到四舍五入到 x 位小数的方法，但是如果数字中有任何 0，这只会删除精度. 例如，0.086 到一位小数变为 0.1，但我希望它保持在 0.08. 解决方案 该框架没有内置函数来舍入(或截断，如您的示例)为多个有效数字.但是，您可以执行此操作的一种方法是缩放您 ..

发布时间：2021-12-17 14:40:06 c# math rounding significant-digits C#/.NET

如何在 Python 中将数字四舍五入为有效数字

我需要舍入要在 UI 中显示的浮点数.例如，到一位有效数字: 1234 ->10000.12 ->0.10.012 ->0.010.062 ->0.066253 ->60001999 ->2000年 是否有使用 Python 库的好方法，或者我必须自己编写? 解决方案 您可以使用负数来舍入整数: >>>回合(1234，-3)1000.0 因此，如果您只需要最高有效数字: >> ..

发布时间：2021-12-17 14:28:23 python math rounding significant-digits Python

在 matplotlib 图的轴上显示小数位和科学记数法

我正在使用 python 2.7 在 pyqt 程序中用 matplotlib 绘制一些大数字.我有一个 y 轴，范围从 1e+18 到 3e+18(通常).我希望看到每个刻度线都以科学记数法显示值并保留 2 位小数.例如，2.35e+18 而不是 2e+18，因为 2e+18 和 3e+18 之间的值对于一些刻度线仍然只读取 2e+18.这是该问题的一个示例. 将 numpy 导入为 np导入 ..

发布时间：2021-12-11 14:02:56 python matplotlib axis-labels significant-digits Python

四舍五入到 n 个有效数字

我正在尝试在 MATLAB 中编写代码，将数字四舍五入为某些(如我所问)有效数字. 我不知道该怎么做.有什么建议吗? 解决方案 四舍五入到 d 有效数字: >>d = 3;％//位数>>x = 5.237234；%//示例编号>>D = 10^(d-ceil(log10(x)));>>y = 圆(x*D)/Dy =5.2400 四舍五入到d 十进制数字: >>d = 3;％// ..

发布时间：2021-12-08 15:27:13 matlab floating-point digits significant-digits 其他开发

四舍五入到任意数量的有效数字

如何将任何数字(不仅仅是整数 > 0)四舍五入为 N 个有效数字? 例如，如果我想四舍五入为三位有效数字，我正在寻找一个可以采用的公式: 1,239,451 并返回 1,240,000 12.1257 并返回 12.1 .0681 并返回 .0681 5 并返回 5 当然，算法不应被硬编码为仅处理 3 中的 N，尽管这只是一个开始. 解决方案 这是 Ja ..

发布时间：2021-12-06 19:49:51 algorithm rounding significant-digits 其他开发

如何生成包含所有相关小数位的汇总统计表以显示在 R 的结果表中?

我有一个非常大的数据集(50 多个站点，100 多个溶质)，我想快速生成数据的描述性统计汇总表，并能够将其导出为 .csv 文件. 示例代码(我数据的一个很小的子集): 站点 ..

发布时间：2021-08-30 18:47:24 r statistics scientific-notation leading-zero significant-digits 其他开发

舍入 R 中的有效数字

所以基本上我正在做一个物理实验，在我的表格中，我希望我的数据四舍五入到与误差相同的精度，即四舍五入为 1 sig fig. 例如，如果我有以下内容: angle 想要我最终得到的是将角度误差四舍五入到1 sig fig，并将角度四舍五入到相应的小数位数作为角度误差，给 angle 希望这是有道理的！！这是我们被教导呈现数据的标准方式，因此我很惊讶我发现找到正确的方式来做这件事是多 ..

发布时间：2021-07-10 19:47:50 r rounding presentation significant-digits 其他开发

SQL 中四舍五入到 n 个有效数字

我希望能够在 SQL 中将数字四舍五入为 n 个有效数字.所以: 123.456 四舍五入为 2sf 会得到 1200.00123 四舍五入为 2sf 将得到 0.0012 我知道 ROUND() 函数，它四舍五入到 n 个小数位而不是有效数字. 解决方案 select round(@number,@sf-1- floor(log10(abs(@number)))) 应该做的把戏！ ..

发布时间：2021-07-10 19:46:45 sql sql-server tsql rounding significant-digits 数据库

r 使用 paste 或 paste0 时保持 0.0

这是一个简单的问题，但它开始让我烦恼，我找不到解决方案...... 我希望能够在使用 paste 或 paste0 时将其用作输出时保持 0.0 所以如果我有以下内容: y 我明白了: [1] "x-1.5x" "x-1x" "x-0.5x" "x0x" "x0.5x" "x1x" "x1.5x" 但想要: [1] "x-1.5x" "x-1.0x" "x-0.5x" "x0.0 ..

发布时间：2021-06-14 20:05:29 r paste digits significant-digits 其他开发

内置的显示重要数字的方法

关于有效数字的四舍五入有很多问题，答案提供了进行四舍五入的新方法，例如: 四舍五入到任意有效数字 将小数点后两位取整到第二位 这些问题和解决方案大多在2009年至2010年左右. 我想有一个简单的内置方法(或从Apache或Spring等标准的知名库中获取)，并给出数字和有效数字，然后打印出限于指定有效数字的数字. 即: 123.456789//到2个有效数字: ..

发布时间：2021-05-18 20:57:22 java rounding significant-digits Java开发

获取python中的最高有效位

说我有清单 [34523、55、65、2] 获取最有效数字的 [3,5,6,2] 的最有效方法是什么?如果可能的话，不更改每个 str()? 解决方案 假设您只处理正数，则可以将每个数字除以小于该数字的10的最大幂，然后取下结果. >>>从数学导入日志10开始>>>lst = [34523，55，65，2]>>>[lst中x的楼层(x/(10 **楼层(log10(x)))))[3 ..

发布时间：2021-05-16 19:12:52 python list integer significant-digits Python

如何舍入浮点数，使小数点后只有两位尾随数字?

我有一个浮点数，例如137.57667565656，但我想四舍五入，使得小数点后只有两个尾随数字，例如新的浮点数将是137.58. 到目前为止，我已经尝试过: (Math.round((value*100)/100)).toFixed(2).toString(); 但不幸的是，它将我的值四舍五入为137.00.它将小数位添加为零，为什么呢? 如何实现以上目标? 解决方案 ..

发布时间：2020-11-08 22:34:19 javascript floating-point rounding significant-digits 前端开发

如何使excel显示一定数量的有效数字?

我正在使用excel，并且希望将数值显示为一定数量的有效数字. 我尝试使用以下方程式 =ROUND(value,sigfigs-1-INT(LOG10(ABS(value)))) 将值替换为我正在使用的数字，并将sigfigs替换为我想要的有效数字. 该公式有时有效，但其他时候却无效. 例如，值18.036将更改为18，其中有2位有效数字.解决此问题的方法是将源格式更改 ..

发布时间：2020-10-31 21:00:17 excel spreadsheet rounding significant-digits 其他开发

如何创建具有给定数量有效数字的decimal.Decimal对象？

我发现生成 decimal.Decimal 数字的最佳方法，该数字具有特定的 重要数字 是用于初始化以下变量 kluge 的数字： 导入小数 THIS_IS_JUST_AN_EXAMPLE = 0.00001 / 3.0 ，其中decimal.localcontext（）为c： c.prec = 5 kluge =十进制.Decimal（THIS_IS_JUST_AN_EXAMPL ..

发布时间：2020-10-19 19:06:04 python decimal ieee-754 significant-digits Python

为什么python十进制库不为某些输入返回指定数量的有效数字

注意事项：该问题与“> 重要数字有关> 。 不是关于“小数点后的位数”或类似问题的问题。 编辑：这问题不是 重复的十进制模块中的有效数字。这两个问题是关于完全不同的问题。我想知道为什么函数不返回特定输入的期望值。 十进制模块中的有效数字都没有答案。 下面的函数应该返回具有指定有效位数的浮点数的字符串表示形式： 导入十进制 def to_sigfigs（value，sigfi ..

发布时间：2020-10-19 18:55:38 python decimal ieee-754 significant-digits Python

在BigDecimal中找到有效位数的巧妙方法?

我不想限制BigDecimal中的有效位数.我只想查找该数字具有的有效位数. 有没有一种方法，而无需将数字转换为字符串并计算数字字符? 解决方案 我相信您需要 precision 和import java.math.*; public class Test { public static void main(String[] args) { test("5000"); // 4 te ..

发布时间：2020-09-20 20:12:44 java bigdecimal significant-digits Java开发

在NumPy中提取浮点有效数和指数

我希望能够提取NumPy中浮点数的有效位数和指数.取指数为整数是可以的，对于有效位数是可以的.将有效位作为位域将更加方便. 我知道Python浮点数有一个hex方法；但是，我希望使用numpy.float32，numpy数组和ufuncs.我也知道numpy view方法，该方法使我可以将float看作是整数，因此是二进制字符串: >>> import numpy as np >>> ..

发布时间：2020-05-18 22:10:46 python numpy floating-point exponent significant-digits Python

在matplotlib图的轴上显示小数位和科学计数法

我正在使用python 2.7在pyqt程序中使用matplotlib绘制一些大数字.我的y轴范围通常为1e + 18到3e + 18.我希望看到每个刻度线都以科学计数法显示数值，并保留小数点后两位.例如2.35e + 18而不是2e + 18，因为在2e + 18到3e + 18之间的值仍会读取2e + 18几个刻度.这是该问题的一个示例. import numpy as np impor ..

发布时间：2020-05-06 16:00:40 python matplotlib axis-labels significant-digits Python