decimal相关内容
我遇到过两种不同的浮点数精度公式. ⌊(N-1) log10(2)⌋ = 6 位小数(单精度) 和 N log10(2) ≈7.225 个十进制数字(单精度) 其中 N = 24 有效位(单精度) 第一个公式位于“IEEE 标准的第 4 页顶部754 for Binary Floating-Point Arithmetic",由 W. Kahan 教授撰写. 第
..
请务必注意,我不是在寻找舍入函数.我正在寻找一个以任意数字的简化十进制表示形式返回小数位数的函数.也就是说,我们有以下内容: decimalPlaces(5555.0);//=>0小数位(5555);//=>0小数位(555.5);//=>1小数位(555.50);//=>1小数位(0.0000005);//=>7小数位(5e-7);//=>7小数位(0.00000055);//=>8小数位(5
..
我有一个指数格式的浮点数,即 4.1595246940817E-17,我想将其转换为十进制数,如 2.99 等. 任何帮助将不胜感激. format_number() sprintf() 似乎对我不起作用. 解决方案 你需要一个更好的数学扩展,比如 BC Math, GMP... 来处理更精确的精度. 浮点数的限制 &整数
..
如何修复此代码以使 1.1 + 2.2 == 3.3?这里实际发生了什么导致这种行为?我对舍入问题和浮点数学有点熟悉,但我认为这仅适用于除法和乘法,并且会在输出中可见. [me@unixbox1:~/perltests]>猫 testmathsimple.pl#!/usr/bin/perl使用严格;使用警告;check_math(1, 2, 3);check_math(1.1, 2.2, 3.3
..
我似乎在使用浮点数时失去了很多精度. 例如我需要求解一个矩阵: 4.0x -2.0y 1.0z =11.01.0x +5.0y -3.0z =-6.02.0x +2.0y +5.0z =7.0 这是我用来从文本文件中导入矩阵的代码: f = open('gauss.dat')行 = f.readlines()f.close()j=0对于行中的行:bits = string.split(
..
我一直在编写一个脚本,该脚本从 Excel 电子表格中获取数据,对数字进行四舍五入并删除小数点,例如,2606.89579999999 变为 26069.但是,我需要将数字四舍五入到小数点后两位后面会有一个零,所以 2606.89579999999 应该变成 260690. 我目前有它,所以 i 从 Excel 中的单元格中获取数据,并将其四舍五入到小数点后两位 (i = round(i,
..
有时,Activerecord 数据类型让我感到困惑.错误,经常.我永恒的问题之一是,对于给定的案例, 我应该使用 :decimal 还是 :float? 我经常看到这个链接,ActiveRecord: :decimal vs :float?,但答案还不够清楚,我无法确定: 我见过很多人们建议不要使用的线程浮动并始终使用小数.我也看到了一些人的建议人们只能将 float 用于科学
..
我正在从文件中读取数据,对其进行修改并将其写入另一个文件.新文件将被另一个程序读取,因此保留准确的格式至关重要 例如,我的输入文件中的一个数字是: 1.000000 我的脚本对列应用了一些数学运算并应该返回 2.000000 但是当前返回的是 2.0 如何将浮点数(例如 my_float = 2.0,作为 my_float = 2.00000)写入文件? 解决方案 格式化
..
如何在 Python 中将以下十六进制字符串转换为浮点数(单精度 32 位)? “41973333"->1.88999996185302734375E1“41995C29"->1.91700000762939453125E1“470FC614"->3.6806078125E4 解决方案 在 Python 3 中: >>>导入结构>>>struct.unpack('!f', bytes.fr
..
我需要十进制/浮点数的正则表达式,例如 12 12.2 1236.32 123.333 和 +12.00 或 -12.00 或 ...123.123... 用于 javascript 和 jQuery.谢谢. 解决方案 可选匹配+或-开头,后跟一个或多个小数位,可选后跟一个小数点,一个或多个小数位直到结尾字符串: /^[+-]?\d+(\.\d+)?$/ RegexPal
..
我有像 3.2 和 1.6 这样的浮点数. 我需要将数字分成整数和小数部分.例如,3.2 的值将被拆分为两个数字,即 3 和 0.2 获取整数部分很容易: n = Math.floor(n); 但我无法获取小数部分.我试过这个: 余数 = n % 2;//obtem a parte decimal do rating 但它并不总是正常工作. 前面的代码有如下输出: n
..
有没有办法在我的 C++ 程序中使用十进制数据类型,例如 decimal32、decimal64 或 decimal128? 解决方案 十进制 TR 并非对所有编译器都实现.一些编译器,例如 gcc,实现了 C Decimal TR 并提供相应的 C++ 扩展.过去有一个可用的 C++ Decimal TR 的开源实现,但我找不到它.如果您的编译器不支持十进制类型,您最好的选择可能是为 I
..
我想使用 Track-Bar 来更改 Form 的不透明度. 这是我的代码: 十进制 trans = trackBar1.Value/5000;this.Opacity = 反式; 当我构建应用程序时,它给出了以下错误: 不能将十进制类型隐式转换为双精度 我曾尝试使用 trans 和 double,但随后 Control 不起作用.此代码在过去的 VB.NET 项目中运行良好.
..
我目前正在为客户网站构建销售模块.到目前为止,我已经得到了完美计算的销售价格,但我遇到的问题是将输出格式化为小数点后 2 位. 我目前在一个变量中调用它,以便我可以将结果数据绑定到一个列表视图. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price/100))).ToString())), 谁能告诉我如
..
如何获得小数点后的数字? 例如,如果我有 5.55,我如何获得 .55? 解决方案 一个简单的方法: number_dec = str(number-int(number))[1:]
..
我正在努力更好地理解浮点运算,并看到了一些指向“每个计算机科学家应该知道的关于浮点运算的知识"的链接. 我仍然不明白像 0.1 或 0.5 这样的数字是如何以浮点数和小数形式存储的. 有人可以解释一下它是如何布局的吗? 我知道浮点数是两部分(即,某物的幂的数字). 解决方案 我一直把人们指向 Harald Schmidt 的在线转换器,以及 维基百科 IEEE754-19
..
我正在寻找一个处理真正(长、大、巨大、风暴)数字的数学解决方案.我还没有找到任何东西,但我不想认为这个问题目前还没有解决.我正在寻找一个简单的数字解决方案,例如 Microsoft Excel Precision(30 位小数)或 BigInteger (Java) 解决方案.当然是在 Javascript 中. 解决方案 在为 ElGamal 加密实现寻找大整数库时,我测试了几个库,结果
..
如何在 C 中将浮点值(例如 37.777779)四舍五入到小数点后两位 (37.78)? 解决方案 如果你只是想将数字四舍五入输出,那么 "%.2f" 格式字符串确实是正确答案.但是,如果您真的想对浮点值进行四舍五入以进行进一步计算,则可以使用以下方法: #include 浮动值 = 37.777779;浮动rounded_down = floorf(val * 100
..
.NET中的decimal、float和double有什么区别? 什么时候有人会使用其中之一? 解决方案 float 和 double 是 浮动二进制点类型.换句话说,它们代表这样一个数字: 10001.10010110011 二进制数和二进制点的位置都在值内编码. decimal 是 浮动 decimal 点输入.换句话说,它们代表这样一个数字: 12345.65789
..
我有代表十进制值的字符串,例如:“0.010"、“0.0100000"、“00.01000" 我想将它们四舍五入到指定的格式,例如:#.## 在 Java 中,我们有: public BigDecimal setScale(int newScale, RoundingMode roundingMode) {返回 setScale(newScale, roundingMode.oldM
..