decimal相关内容

可以在不丢失重要性的情况下转换为二进制并返回十进制的最重要的十进制数字精度是 6 还是 7.225?

我遇到过两种不同的浮点数精度公式. ⌊(N-1) log10(2)⌋ = 6 位小数(单精度) 和 N log10(2) ≈7.225 个十进制数字(单精度) 其中 N = 24 有效位(单精度) 第一个公式位于“IEEE 标准的第 4 页顶部754 for Binary Floating-Point Arithmetic",由 W. Kahan 教授撰写. 第 ..

JavaScript中是否有可靠的方法来获取任意数字的小数位数?

请务必注意,我不是在寻找舍入函数.我正在寻找一个以任意数字的简化十进制表示形式返回小数位数的函数.也就是说,我们有以下内容: decimalPlaces(5555.0);//=>0小数位(5555);//=>0小数位(555.5);//=>1小数位(555.50);//=>1小数位(0.0000005);//=>7小数位(5e-7);//=>7小数位(0.00000055);//=>8小数位(5 ..
发布时间:2022-01-09 10:40:43 前端开发

在php中将指数数转换为十进制

我有一个指数格式的浮点数,即 4.1595246940817E-17,我想将其转换为十进制数,如 2.99 等. 任何帮助将不胜感激. format_number() sprintf() 似乎对我不起作用. 解决方案 你需要一个更好的数学扩展,比如 BC Math, GMP... 来处理更精确的精度. 浮点数的限制 &整数 ..
发布时间:2022-01-09 10:38:10 PHP

如何修复这个 Perl 代码,使 1.1 + 2.2 == 3.3?

如何修复此代码以使 1.1 + 2.2 == 3.3?这里实际发生了什么导致这种行为?我对舍入问题和浮点数学有点熟悉,但我认为这仅适用于除法和乘法,并且会在输出中可见. [me@unixbox1:~/perltests]>猫 testmathsimple.pl#!/usr/bin/perl使用严格;使用警告;check_math(1, 2, 3);check_math(1.1, 2.2, 3.3 ..
发布时间:2022-01-09 10:36:06 其他开发

在 Python 中舍入一个数字但保持结尾为零

我一直在编写一个脚本,该脚本从 Excel 电子表格中获取数据,对数字进行四舍五入并删除小数点,例如,2606.89579999999 变为 26069.但是,我需要将数字四舍五入到小数点后两位后面会有一个零,所以 2606.89579999999 应该变成 260690. 我目前有它,所以 i 从 Excel 中的单元格中获取数据,并将其四舍五入到小数点后两位 (i = round(i, ..
发布时间:2022-01-09 10:29:12 Python

ActiveRecord 中的浮点数与小数

有时,Activerecord 数据类型让我感到困惑.错误,经常.我永恒的问题之一是,对于给定的案例, 我应该使用 :decimal 还是 :float? 我经常看到这个链接,ActiveRecord: :decimal vs :float?,但答案还不够清楚,我无法确定: 我见过很多人们建议不要使用的线程浮动并始终使用小数.我也看到了一些人的建议人们只能将 float 用于科学 ..

Python中小数点后的浮点数加零

我正在从文件中读取数据,对其进行修改并将其写入另一个文件.新文件将被另一个程序读取,因此保留准确的格式至关重要 例如,我的输入文件中的一个数字是: 1.000000 我的脚本对列应用了一些数学运算并应该返回 2.000000 但是当前返回的是 2.0 如何将浮点数(例如 my_float = 2.0,作为 my_float = 2.00000)写入文件? 解决方案 格式化 ..
发布时间:2022-01-09 10:19:59 Python

将十六进制转换为浮点数

如何在 Python 中将以下十六进制字符串转换为浮点数(单精度 32 位)? “41973333"->1.88999996185302734375E1“41995C29"->1.91700000762939453125E1“470FC614"->3.6806078125E4 解决方案 在 Python 3 中: >>>导入结构>>>struct.unpack('!f', bytes.fr ..
发布时间:2022-01-09 10:16:33 Python

使用 JavaScript 获取数字的小数部分

我有像 3.2 和 1.6 这样的浮点数. 我需要将数字分成整数和小数部分.例如,3.2 的值将被拆分为两个数字,即 3 和 0.2 获取整数部分很容易: n = Math.floor(n); 但我无法获取小数部分.我试过这个: 余数 = n % 2;//obtem a parte decimal do rating 但它并不总是正常工作. 前面的代码有如下输出: n ..
发布时间:2022-01-09 10:13:20 前端开发

C++ 十进制数据类型

有没有办法在我的 C++ 程序中使用十进制数据类型,例如 decimal32、decimal64 或 decimal128? 解决方案 十进制 TR 并非对所有编译器都实现.一些编译器,例如 gcc,实现了 C Decimal TR 并提供相应的 C++ 扩展.过去有一个可用的 C++ Decimal TR 的开源实现,但我找不到它.如果您的编译器不支持十进制类型,您最好的选择可能是为 I ..
发布时间:2022-01-09 10:12:37 C/C++开发

如何在 C# 中将 Decimal 转换为 Double?

我想使用 Track-Bar 来更改 Form 的不透明度. 这是我的代码: 十进制 trans = trackBar1.Value/5000;this.Opacity = 反式; 当我构建应用程序时,它给出了以下错误: 不能将十进制类型隐式转换为双精度 我曾尝试使用 trans 和 double,但随后 Control 不起作用.此代码在过去的 VB.NET 项目中运行良好. ..
发布时间:2022-01-09 10:07:23 C#/.NET

将浮点数格式化为小数点后 2 位

我目前正在为客户网站构建销售模块.到目前为止,我已经得到了完美计算的销售价格,但我遇到的问题是将输出格式化为小数点后 2 位. 我目前在一个变量中调用它,以便我可以将结果数据绑定到一个列表视图. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price/100))).ToString())), 谁能告诉我如 ..
发布时间:2022-01-09 10:05:43 C#/.NET

如何用浮点数和小数表示 0.1

我正在努力更好地理解浮点运算,并看到了一些指向“每个计算机科学家应该知道的关于浮点运算的知识"的链接. 我仍然不明白像 0.1 或 0.5 这样的数字是如何以浮点数和小数形式存储的. 有人可以解释一下它是如何布局的吗? 我知道浮点数是两部分(即,某物的幂的数字). 解决方案 我一直把人们指向 Harald Schmidt 的在线转换器,以及 维基百科 IEEE754-19 ..
发布时间:2022-01-09 10:00:22 C#/.NET

如何处理javascript中的大数字

我正在寻找一个处理真正(长、大、巨大、风暴)数字的数学解决方案.我还没有找到任何东西,但我不想认为这个问题目前还没有解决.我正在寻找一个简单的数字解决方案,例如 Microsoft Excel Precision(30 位小数)或 BigInteger (Java) 解决方案.当然是在 Javascript 中. 解决方案 在为 ElGamal 加密实现寻找大整数库时,我测试了几个库,结果 ..
发布时间:2022-01-09 09:57:28 前端开发

如何将浮点值限制为 C 中小数点后的两位?

如何在 C 中将浮点值(例如 37.777779)四舍五入到小数点后两位 (37.78)? 解决方案 如果你只是想将数字四舍五入输出,那么 "%.2f" 格式字符串确实是正确答案.但是,如果您真的想对浮点值进行四舍五入以进行进一步计算,则可以使用以下方法: #include 浮动值 = 37.777779;浮动rounded_down = floorf(val * 100 ..
发布时间:2022-01-09 09:55:30 其他开发

.NET 中十进制、浮点和双精度的区别?

.NET中的decimal、float和double有什么区别? 什么时候有人会使用其中之一? 解决方案 float 和 double 是 浮动二进制点类型.换句话说,它们代表这样一个数字: 10001.10010110011 二进制数和二进制点的位置都在值内编码. decimal 是 浮动 decimal 点输入.换句话说,它们代表这样一个数字: 12345.65789 ..
发布时间:2022-01-09 09:51:19 C#/.NET

Clojure 四舍五入到小数位

我有代表十进制值的字符串,例如:“0.010"、“0.0100000"、“00.01000" 我想将它们四舍五入到指定的格式,例如:#.## 在 Java 中,我们有: public BigDecimal setScale(int newScale, RoundingMode roundingMode) {返回 setScale(newScale, roundingMode.oldM ..
发布时间:2022-01-02 22:39:45 其他开发