floating-point相关内容

将浮点数转换为美元和美分

首先,我尝试过这篇文章(以及其他):Python 中的货币格式.它对我的变量没有影响.我最好的猜测是因为我使用的是 Python 3,而那是 Python 2 的代码.(除非我忽略了某些东西,因为我是 Python 新手). 我想将浮点数(例如 1234.5)转换为字符串,例如“$1,234.50".我该怎么做呢? 为了以防万一,这是我编译的代码,但不影响我的变量: money = ..
发布时间:2022-01-09 10:47:25 Python

JavaScript:四舍五入到小数位,但去掉多余的零

情况如下:我得到 .9999999999999999 而我应该得到 1.0. 我可以承受丢失小数点的精度,所以我使用 .toFixed(15),这很有效. 四舍五入有效,但问题是我得到了 1.000000000000000. 有没有办法四舍五入到小数位,但去掉多余的空格? 注意:.toPrecision 不是我想要的;我只想指定小数点后有多少个数字. 注意 2:我不能只使用 .t ..
发布时间:2022-01-09 10:47:11 前端开发

如何使用浮点数执行舍入到偶数

关于 IEEE-754 单精度浮点,您如何执行舍入到最接近,其中将舍入到所需位置中最近的偶数(默认和迄今为止最常见的模式)? 基本上我有保护位、圆形位和粘性位.因此,如果我们将它们形成一个向量并将其称为 GRS,则适用以下规则: 如果 G = 0,向下取整(什么都不做) 如果 G = 1,并且 RS == 10 或 RS == 01,则向上取整(尾数加一)如果GSR = 111,四舍 ..
发布时间:2022-01-09 10:47:05 其他开发

numpy 或 scipy 有哪些可能的计算可以返回 NaN?

在 Python 中,哪些最常见的操作会导致使用 NumPy 或 SciPy 时产生的 NaN? 例如: 1e500 - 1e500>>>楠 这种行为的原因是什么,为什么它不返回 0? 解决方案 如果您执行以下任何一项操作而没有在浮点环境中徘徊,您应该得到一个之前没有的 NaN:p> 0/0(顶部和底部都可以) inf/inf(在顶部和底部签名) inf - inf 或 ( ..
发布时间:2022-01-09 10:46:58 Python

检查双变量是否包含整数,而不是浮点

我的意思是: double d1 =555;双 d2=55.343 我想知道 d1 是一个整数,而 d2 不是.有没有简单的方法在 c/c++ 中做到这一点? 解决方案 使用std::modf: double intpart;modf(值, &intpart) == 0.0 不要转换成 int!1.0e+300 这个数字也是你知道的整数. 编辑:正如 Pete Kirkha ..
发布时间:2022-01-09 10:46:48 C/C++开发

Java 双重比较 epsilon

我编写了一个类,用 Java 中的两个双精度来测试相等、小于和大于.我的一般情况是比较可以精确到半美分的价格.59.005 与 59.395 相比.我为这些情况选择的 epsilon 是否足够? private final static double EPSILON = 0.00001;/*** 如果两个双精度数相等,则返回 true.测试是否绝对* 两个双打之间的差异小于 0.00001.这* ..
发布时间:2022-01-09 10:46:32 Java开发

Java中的浮点数是什么?

我写了这段代码: float b = 3.6; 我明白了: 错误:未解决的编译问题:类型不匹配:无法从 double 转换为 float 为什么?float的定义是什么? 解决方案 在 Java 中,当您键入一个十进制数为 3.6 时,它会被解释为一个 double.double 是 64 位精度的 IEEE 754 浮点,而 float 是 32 位精度的 IEEE 754 ..
发布时间:2022-01-09 10:46:24 Java开发

这个部门有什么问题?

代码如下: 类测试和{公共静态无效主要(字符串arg []){双倍总和=0;双分数;分数=-1/9;System.out.println("分数:"+分数);分数=-1;分数=分数/9;System.out.println("分数:"+分数);}} 输出是 0 然后是 -0.11111111 为什么第一个输出是 0 而不是 -0.11111111111? 解决方案 它在第一个示例 ..
发布时间:2022-01-09 10:45:55 Java开发

Java:使用双精度不准确

可能重复: 在java中使用双精度保持精度 Java 程序中奇怪的浮点行为 我正在制作一个直方图类,但遇到了一个奇怪的问题. 这是该类的基础知识,还有更多方法,但与问题无关. private int[] 计数器;私人 int numCounters;私人双最小,最大,宽度;公共直方图(双botRange,双topRange,int numCounters){计数器 = 新的 in ..
发布时间:2022-01-09 10:45:48 Java开发

Excel为什么不按照8字节IEEE 754四舍五入

以下表达式在 C# 中的计算结果为 false: (1 + 1 + 0.85)/3 我认为在大多数其他实现 IEEE 754 的编程语言中也是如此,因为 (1 + 1 + 0.85)/3 的计算结果为 0.95000000000000007,后者更大比 0.95. 但是,即使 Excel 也应该实现 IEEE 754 的大部分内容,以下在 Excel 2013 中计算为 TRUE: ..
发布时间:2022-01-09 10:45:09 其他开发

Microsoft ACE 驱动程序更改了我程序其余部分的浮点精度

我遇到了一个问题,在使用 Microsoft ACE 驱动程序 打开 Excel 电子表格. 下面的代码重现了这个问题. 对 DoCalculation 的前两次调用产生相同的结果.然后我调用函数OpenSpreadSheet,它使用ACE 驱动程序打开和关闭Excel 2003 电子表格.您不会期望 OpenSpreadSheet 对上次调用 DoCalculation 有任何影响, ..
发布时间:2022-01-09 10:44:59 C#/.NET

如何手动(按位)执行(float)x?

现在,这是我应该实现的函数的函数头: /** float_from_int - 返回表达式 (float) x 的位级等价物* 结果以 unsigned int 形式返回,但是* 它将被解释为 a 的位级表示* 单精度浮点值.*合法操作:任何整数/无符号操作,包括.||, &&.如果,同时* 最大操作数:30* 评分:4*/无符号 float_from_int(int x) {...} 我们不 ..
发布时间:2022-01-09 10:44:51 其他开发

SSE 寄存器返回,SSE 禁用

我的情况如下: 我正在为不允许 SSE 指令的内核编写代码 我需要做浮点运算 我正在为 x86_64 平台进行编译 这是一个说明问题的代码示例: int主要(int argc,char** argv){双 d = 0.0, dbase;uint64_t base_value = 300;d = (2200.0 - 1000.0)/(1000.0);dbase = d * base ..
发布时间:2022-01-09 10:44:43 其他开发

Python浮动比率

我尝试获取变量的比例并得到意想不到的结果.有人可以解释一下吗? >>>值 = 3.2>>>比率 = value.as_integer_ratio()>>>比率(3602879701896397, 1125899906842624)>>>比率[0]/比率[1]3.2 我使用 python 3.3 但我认为 (16, 5) 是更好的解决方案 以及为什么它适用于 2.5 >>>值 = ..
发布时间:2022-01-09 10:44:25 Python

如何在 Python 中管理大量数字的除法?

我有一个 100 位数字,我试图将数字的所有数字放入一个列表中,以便对它们执行操作.为此,我使用以下代码: 对于范围 (0, 1000) 中的 x:列表 [x] = 数字 % 10数字 = 数字/10 但我面临的问题是我收到了一个溢出错误,比如浮点数/整数太大.我什至尝试使用以下替代方法 number = int (number/10) 如何将这个巨大的数字除以整数类型的结果,即没有浮点数 ..
发布时间:2022-01-09 10:44:16 Python

c中浮点的精确表示

void main(){浮动 a = 0.7;如果 (a 在上述问题中,对于 0.7,将打印“c",但对于 0.8,将打印“c++".为什么? 任何浮点数如何以二进制形式表示? 在某些地方,提到内部0.7将存储为0.699997,但0.8存储为0.8000011.为什么会这样? 解决方案 基本上用float你得到32位编码 VALUE = SIGN * MANTISSA ..
发布时间:2022-01-09 10:43:57 其他开发