将浮点范围转换/量化到整数范围
假设我在[0，1]范围内有一个浮点数，我想量化并存储在一个无符号的字节。听起来很简单，但事实上它非常复杂： 显而易见的解决方案如下所示： 无符号字符QuantizeFloat（float a） { $ b $ p $ b这个工作到目前为止，我得到的所有数字从0到255，但整数的分布是不均匀的。如果a正好是 1.0f ，那么函数只返回 255 。不是一个好的解决方案。 如
..
rounding相关内容
为什么我的BigDecimal对象初始化有意外的舍入错误？
在Ruby 2.2.0中，为什么： BigDecimal.new（34.13985572755337，9） code> 等于 34.0 但是 BigDecimal.new（34.13985572755338，9） 等于 34.1398557 ？ 请注意，我在64位机器上运行这个。 解决方案 用字符串初始化而不是浮动 用F
..
JavaScript：舍入到小数位数，但是去掉额外的零
下面是这个场景：当我得到 1.0 时，得到 .9999999999999999 b $ b我可以承受失去一个小数位的精度，所以我使用 .toFixed（15），这种工作。 四舍五入工作，但问题是，我给了 1.000000000000000 。 有没有办法要舍去许多小数位，但要多加一些空格？ 注意： .toPrecision 不是我想要的;我只想指定小数点后的数字。 注意2：
..
将float转换为四舍五入的十进制数
当您将浮动转换为十进制时，十进制将包含它可以准确表示的二进制数。准确是很好的，但并不总是你想要的。由于很多十进制数不能完全用二进制表示，因此产生的 Decimal 会稍微偏离 - 有时会有点高，有时会有点低。 >>> from decimal import Decimal >>> f（0.1,0.3,1e25,1e28,1.0000000000001）： print十进制（f） 0
..
将一个浮点数上升到javascript中的下一个整数
我需要将浮点数整数到最接近的整数，即使点后的数小于0.5。例如， 4.3应该是5（不是4） 应该是5 如何在JavaScript中执行此操作？ 解决方案 一个href =“https://developer.mozilla.org/en/JavaScript/Reference/Global_Objects/Math/ceil”> Math.ceil [MDN] 函数
..
R中浮点精度的极端数值
有人可以给我解释下面的输出。我知道这与浮点精度有关，但是magnitue（差异1e308）的顺序令我感到惊讶。 0：高精度 > 1e-324 == 0 [1] TRUE > 1e-323 == 0 [1] FALSE 非常不正确 > 1 - 1e-16 == 1 [1] FALSE > 1 - 1e-17 == 1 [1] TRUE
..
php浮点运算2小数点
$ a = 34.56 $ b = 34.55 $ a 图 $ code $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ $ b $ p $ b $ $ $ $ $ $ $ $ $ $ $ > 假设我应该是-0.01，但是我回应了 $ c 是显示-0.00988888888888 我尝试使用n
..
用JavaScript获取数字的小数部分
我的浮动数字如 3.2 和 1.6 。 我需要把数字分成整数和小数部分。例如， 3.2 的值将被分成两个数字，即 3 和 0.2 获取整数部分很简单： n = Math.floor（n）; 但是我很难得到小数部分。 我试过这个： remainer = n％2; // obtem a parte decimal do rating 但
..
为什么4 * 0.1的浮点值在Python 3中看起来不错，但是3 * 0.1却没有？
我知道大多数小数没有精确的浮点数表示（浮点数学是否被破坏？） p> 但是我不明白为什么 4 * 0.1 很好地打印为 0.4 ，但是 3 * 0.1 不是，当 这两个值实际上都有难看的十进制表示形式时： >>> 3 * 0.1 0.30000000000000004 >>> 4 * 0.1 0.4 >>> from decimal import Decimal >>>十
..
你如何在Perl中使用浮点数？
如何将十进制数（浮点数）舍入到最近的整数？ 例如 1.2 = 1 1.7 = 2 解决方案 perldoc -q round $ b Perl有一个round（）函数？那么ceil（）和floor（）呢？ Trig函数？ 记住 int（） 只能截断为 0 。为了四舍五入到一定数量的数字， sprintf（） 或 printf（
..
如何在JavaScript中舍入数字？
在处理一个项目时，我遇到了一个由前雇员创建的JS脚本，它基本上以 Name：Value Name2：Value2 等。 这个标记是值有时可以是浮点数（具有不同的精度），整数，甚至是 2.20011E + 17 。我想要输出的是纯粹的整数。不过，我不太了解JavaScript。我将如何去写一个方法，这些有时浮动，使他们整数？ 解决方案 你要转换你的输入
..
在Python中的round（）似乎不是正确的四舍五入
round（）函数的文档声明您已通过它是一个数字，以及小数点后面的位置。因此它应该这样做： $ p $ n $ 5.59 round（n，1） ＃5.6 但是，实际上，古老的浮点奇怪会浮现出来： 5.5999999999999996 为了UI的目的，我需要显示 5.6 。我戳了一下互联网，发现一些文档，这依赖于我的Python实现。不幸的是，这发生在我的Wi
..
为什么Math.round（0.49999999999999994）返回1？
在下面的程序中，你可以看到每个小于 .5 的值被舍去，除了 0.5 。 pre $ for（int i = 10; i> = 0; i--）{ long l = Double.doubleToLongBits（i + 0.5）; double x; do { x = Double.longBitsToDouble（l）; System.out.println（x +“rounded
..
你如何在Python中整理一个数字？
这个问题正在杀死我。如何在Python中对数字进行总结？ 我尝试了一个循环（数字），但是它将数字向下舍入。例如： round（2.3）= 2.0而不是3，我想要 我尝试了int（数字+ .5），但是它再次围绕数字！例子： int（2.3 + .5）= 2 然后我试了一下（数字+5），但是它在边缘情况下不起作用。示例： 等待！这工作！
..
限制浮点数到两个小数点
我想将 a 四舍五入为13.95 。 >>> a 13.949999999999999 >>> round（a，2） 13.949999999999999 round 函数不能按照我的预期工作。 / p> 解决方案 您遇到了所有数字都无法表示的浮点数旧问题。命令行仅显示内存中的完整浮点格式。在浮点上，你的四舍五入的版本是相同的数字。由
..
Firefox和Javascript舍入规则
在IE，Opera和Chrome中，我可以得到我所期望的四舍五入数字以5结尾： 125 toPrecision（2）=> 130 11.5 toPrecision（2）=> 12 这是我所期望的。 然而，Firefox虽然稍微复杂一些，但却产生了如下的效果： 125 toPrecision（2）=> 120 // wtf !!! 11.5 toPr
..
我怎样才能防止csv.DictWriter（）或writerow（）四舍五入我的浮动？
我有一个字典，我想要写入一个csv文件，但是当我把它们写到文件中时，字典中的浮点数被四舍五入。我想保持最大的精度。 在哪里发生舍入，我该如何防止它？ 我做了什么 我遵循 DictWriter示例这里，我正在Mac上运行Python 2.6.1（10.6 - Snow Leopard）。 $ b $ pre> ＃我的导入语句 导入sys 导入csv 这是我的字典（d
..
VBA圆功能
在我的一个程序中，我需要计算一系列数字的平均值。问题是，有时候答案会出现一个巨大的十进制，我需要尝试将其缩小到最小两位小数位。 code> Excel.WorksheetFunction.Round（...），但据我所知，它只适用于特定数字或特定单元格。我想知道有没有人知道如何实现这一点，以便它可以在一系列单元格中舍入所有小数位。 Excel.WorksheetFunction .R
..
帮助使用phpMyAdmin将Excel文件导入MySQL
我正在使用phpMyAdmin的内置导入功能将包含数字值（如884.557和731.0547）的Excel文件（.xls）上传到MySQL数据库。但是，我有可怕的舍入/截断问题。由于某些原因，某些值（如884.557和731.0547）更改为99.99999或9.99999。但是，正确导入其他值，如127.0947。谁能帮忙？如果可能，我仍然希望使用内置的phpMyAdmin导入功能，因为它是有用
..
单元格格式化，显示2位小数
实际的数字是69.30217，所以在我的单元格中，想像一下单元格A1，看起来像69.30。这是可以的。 与这个单元格，我正在做一些连接，所以如果我这样做： “&安培; E5&安培;” 数字显示为69.30217。但是如果我这样做： “& ROUND（E5; 2）& 数字显示为69.3。 我可以做什么来显示这个零？显示69.30
..