decimal相关内容

EF Code First 中的小数精度和小数位数

我正在尝试这种代码优先的方法,但我现在发现 System.Decimal 类型的属性被映射到 decimal(18, 0) 类型的 sql 列. 如何设置数据库列的精度? 解决方案 Dave Van den Eynde 的回答现已过时.有 2 个重要变化,从 EF 4.1 开始,ModelBuilder 类现在是 DbModelBuilder 现在有一个 DecimalPropert ..
发布时间:2021-12-02 13:46:38 C#/.NET

.NET 中小数、浮点数和双精度数之间的区别?

.NET中decimal、float和double有什么区别? 何时有人会使用其中之一? 解决方案 float 和 double 是 浮动二进制点类型.换句话说,它们代表一个这样的数字: 10001.10010110011 二进制数和二进制小数点的位置都在值中编码. decimal 是浮动小数点输入.换句话说,它们代表一个这样的数字: 12345.65789 同样,de ..
发布时间:2021-12-02 13:08:18 C#/.NET

ActiveRecord 中的浮点数与十进制数

有时,Activerecord 数据类型让我感到困惑.呃,经常.我永恒的问题之一是,对于给定的案例, 我应该使用 :decimal 还是 :float? 我经常看到这个链接,ActiveRecord: :decimal vs :float?,但答案还不够清楚,我无法确定: 我见过很多人建议完全不要使用的线程浮动并始终使用十进制.我也看到了一些人的建议人们只将浮动用于科学应用. ..

Python JSON 序列化一个 Decimal 对象

我有一个 Decimal('3.9') 作为对象的一部分,并希望将其编码为一个 JSON 字符串,它应该看起来像 {'x': 3.9}.我不在乎客户端的精度,所以浮点数就可以了. 有没有好的方法来序列化这个?JSONDecoder 不接受 Decimal 对象,并且预先转换为浮点数会产生 {'x': 3.8999999999999999} ,这是错误的,并且会浪费带宽. 解决方案 子 ..
发布时间:2021-12-02 11:05:16 Python

如何将浮点值限制在 C 中小数点后的两位?

如何在 C 中将浮点值(例如 37.777779)四舍五入到两位小数 (37.78)? 解决方案 如果你只是想把数字四舍五入用于输出目的,那么 "%.2f" 格式字符串确实是正确的答案.但是,如果您确实想对浮点值进行四舍五入以进行进一步计算,则可以使用以下方法: #include 浮动价值 = 37.777779;float rounded_down = floorf(val * 100 ..
发布时间:2021-12-01 23:57:46 其他开发

如何将十进制值显示为两位小数?

当前使用 .ToString() 显示小数的值时,精确到 15 位小数,并且由于我使用它来表示美元和美分,因此我只想要输出为 2 位小数. 我是否为此使用了 .ToString() 的变体? 解决方案 decimalVar.ToString("#.##");//返回“.5";当decimalVar == 0.5m 或 decimalVar.ToString("0.##");//返 ..
发布时间:2021-12-01 09:21:25 C#/.NET

十进制对双!- 我应该在什么时候使用哪一个?

我一直看到人们在 C# 中使用双精度.我知道我在某处读到双打有时会失去精度.我的问题是什么时候应该使用双精度型,什么时候应该使用十进制类型?哪种类型适合货币计算?(即超过 1 亿美元) 解决方案 对于金钱,总是十进制.这就是它被创建的原因. 如果数字必须正确相加或平衡,请使用小数.这包括人们可能手动完成的任何财务存储或计算、分数或其他数字. 如果数字的确切值不重要,请使用 do ..
发布时间:2021-12-01 09:07:38 C#/.NET

十六进制转十进制

我必须将十六进制数转换为十进制数,但不知道如何操作.在 AutoIt 文档(如下图)中定义了一些常量(被分配了十六进制值): 0x00200000 十六进制(图像中有下划线)等于 8192 十进制(这是真正的转换).但是转换器返回2097152.我必须转换另一个十六进制值 (0x00000200),但转换器弄错了.如何正确转换? 当我使用定义 $WS_EX_CLIENTEDGE(或十六 ..
发布时间:2021-11-30 20:48:56 其他开发

将十进制值转换为 32 位浮点十六进制

对于我正在开发的一个简单实用程序,我需要一个脚本来将给定的十进制值转换为 32 位浮点十六进制值.例如,我知道 1 是 3F800000,100 是 42C80000,但是我不知道如何用任何数字返回这些结果.如果有人知道执行此操作的简单公式甚至复杂方法,请分享. 解决方案 我不知道我是否正确理解了极端情况,但无论如何,这里有一些代码: function floatToIntBits(f) ..
发布时间:2021-11-26 14:09:34 前端开发

如何格式化字符串数字以包含逗号和四舍五入?

格式化作为字符串提供给我的以下数字的最佳方法是什么? String number = "1000500000.574"//假设我的值永远是一个字符串 我希望这是一个字符串,其值:1,000,500,000.57 我该如何格式化? 解决方案 您可能需要查看 DecimalFormat 类;它支持不同的语言环境(例如:在某些国家/地区,格式会改为 1.000.500.000,57). ..
发布时间:2021-11-25 16:08:47 Java开发

在双精度数中移动小数位

所以我有一个双精度设置为 1234,我想移动一个小数位使其成为 12.34 为此,我将 .1 乘以 1234 两次,就像这样 double x = 1234;for(int i=1;i 这将打印结果,“12.340000000000002" 有没有一种方法,而不是简单地将其格式化为两位小数,就能正确地存储双存储 12.34? 解决方案 如果您使用 double 或 floa ..
发布时间:2021-11-25 14:04:37 Java开发

Java中的双十进制格式

我在格式化双精度数的小数时遇到了一些问题.如果我有双重价值,例如4.0,我如何格式化小数,使其变成 4.00? 解决方案 其中一种方法是使用 数字格式. NumberFormat formatter = new DecimalFormat("#0.00");System.out.println(formatter.format(4.0)); 输出: 4.00 ..
发布时间:2021-11-25 12:30:27 Java开发

如何在Java中将数字四舍五入到n个小数位

我想要的是一种将双精度数转换为使用加半法四舍五入的字符串的方法——即,如果要四舍五入的小数是 5,它总是四舍五入到下一个数字.这是大多数人在大多数情况下所期望的四舍五入的标准方法. 我也希望只显示有效数字 - 即不应该有任何尾随零. 我知道这样做的一种方法是使用 String.format 方法: String.format("%.5g%n", 0.912385); 返回: 0. ..
发布时间:2021-11-25 10:08:31 Java开发

将十进制值转换为 32 位浮点十六进制

对于我正在开发的一个简单实用程序,我需要一个脚本来将给定的十进制值转换为 32 位浮点十六进制值.例如,我知道 1 是 3F800000,100 是 42C80000,但是我不知道如何用任何数字返回这些结果.如果有人知道执行此操作的简单公式甚至复杂方法,请分享. 解决方案 我不知道我是否正确理解了极端情况,但无论如何,这里有一些代码: function floatToIntBits(f) ..
发布时间:2021-11-24 22:54:59 前端开发

如何在Java中将数字四舍五入到n个小数位

我想要的是一种将双精度数转换为使用加半法四舍五入的字符串的方法——即,如果要四舍五入的小数是 5,它总是四舍五入到下一个数字.这是大多数人在大多数情况下所期望的四舍五入的标准方法. 我也希望只显示有效数字 - 即不应该有任何尾随零. 我知道这样做的一种方法是使用 String.format 方法: String.format("%.5g%n", 0.912385); 返回: 0. ..
发布时间:2021-11-22 14:47:43 Java开发

MySQL 中的 DOUBLE 与 DECIMAL

好的,所以我知道有很多文章指出我不应该使用 DOUBLE 在 MySQL 数据库上存储资金,否则我最终会遇到棘手的精度错误.关键是我不是在设计一个新的数据库,我被要求找到优化现有系统的方法.较新的版本包含 783 个 DOUBLE 类型的列,其中大部分用于存储货币或计算金额的公式. 所以我对这个主题的第一个意见是我强烈建议在下一个版本中从 DOUBLE 转换为 DECIMAL,因为 MySQ ..
发布时间:2021-11-20 22:09:03 数据库

将数字格式化为 2 位小数

我想知道如何输出一个带有 2 个小数位的数字,而不对原始数字进行四舍五入. 例如: 2229,999 ->2229,99 我已经试过了: FORMAT(2229.999, 2)转换(2229.999,十进制(4,2)) 解决方案 您想使用 TRUNCATE 命令. https://dev.mysql.com/doc/refman/8.0/en/mathematical-fun ..
发布时间:2021-11-20 21:39:14 数据库

如何在Java中将数字四舍五入到n个小数位

我想要的是一种将双精度数转换为使用加半法四舍五入的字符串的方法——即,如果要四舍五入的小数是 5,它总是四舍五入到下一个数字.这是大多数人在大多数情况下所期望的四舍五入的标准方法. 我也希望只显示有效数字 - 即不应该有任何尾随零. 我知道这样做的一种方法是使用 String.format 方法: String.format("%.5g%n", 0.912385); 返回: 0. ..
发布时间:2021-11-19 22:24:26 Java开发