在 Java 中表示浮点值
看下面的三行代码. float f = 1;浮动 g = 1.1;浮动 h = 1.1f; 第二行有编译错误，而其他行没有编译错误.第一行在没有后缀 f 的情况下工作正常，第三行在后缀 f 下工作.这是为什么呢? 解决方案 Java 中的浮点字面量默认是 double 值. JLS 3.10.2 浮点文字 如果浮点文字以 ASCII 字母 F 或 f 为后缀，则为 flo
..
floating-point相关内容
iphone/Objective C - 比较双打不起作用
我想我快疯了.“计数器"和“间隔"都是双精度数.这发生在 accelerometer:didAccelerate 上，间隔为 (.01) .“计数器"最终应该增加到“间隔".出于某种原因，我无法让这个“如果"成真. 我是否忽略了什么? 双间隔 = .5;if(counter == interval){//最终应该是 .50000 == .50000NSLog(@"命中！");[自我播放声音
..
获取“位"；Python中的浮点数?
我正在寻找与 Java 的 Float.floatToBits 等效的 Python. 我发现了这个 Python:获取 &操纵(作为整数)浮点数的位模式，但有人知道不那么复杂的方法吗? 解决方案 Alex Martelli 在该问题中给出的答案非常简单——您可以将其简化为: >>>导入结构>>>>>>>>>def floatToBits(f):... s = struct.pac
..
浮点 NaN 有效载荷有什么用途?
我知道 IEEE 754 将 NaN 定义为具有以下按位表示: 符号位可以是 0 或 1 指数字段包含所有1位 尾数的某些位用于指定它是安静 NaN 还是信号 NaN 尾数不能全部为 0 位，因为该位模式保留用于表示无穷大 尾数的剩余位构成有效载荷 当计算的输入为 NaN 时，有效载荷(与整个 NaN 一样)传播到浮点计算的结果，尽管我不知道这种传播的细节或标准是否指定如何这个
..
如何将 IEEE-11073 16 位 SFLOAT 转换为 Java 中的简单浮点数?
标题不言自明:如何将 IEEE-11073 16 位 SFLOAT 转换为 Java 中的简单浮点数? 解决方案 你可以使用位移位.提取符号、指数和尾数并将它们移位，使它们为浮点格式.您可能需要更正 Infinity 和 NaN. 正如@PretiP 的回答所指出的那样，指数以 10 为底，因此您需要乘以或除以 10 的幂才能得到最终值.
..
模数运算如何与浮点数据类型一起使用?
我正在尝试找出浮点数据类型的简单模数运算. float a=3.14f;浮动 b=10f;结果=a%b; 我得到的结果= 3.14 另一个使用十进制数据类型的例子: 十进制 p=10;十进制 q=40;结果=p%q; 得到答案=20. 我不明白模数是如何工作的? 解决方案 来自关于浮点余数的 C# 语言规范.在 x % y 的情况下，如果 x 和 y 是正有限值.
..
可以用便携式C编写从double到int的转换吗
我需要编写像 double_to_int(double val, int *err) 这样的函数可能时将 double val 转换为整数；否则报错(NAN/INFs/OUT_OF_RANGE). 所以伪代码实现看起来像: if isnan(val):错误 = ERR_NAN返回 0如果 val 关于 SO 至少有两个类似的问题:在 this 中回答它已经以足够干净的方式解决了，尽管它
..
一个 double 是否将方程中的每个 int 都提升为 double?
是否存在一种浮点数据类型(例如 double)确保所有 +、-、*、/、% 等数学运算都采用双操作数? 如果故事比这更复杂，是否有资源可以描述这些规则?当等式的结果是 double 时，我是否应该不问这样的问题并始终明确地将 int 转换为 double.这是我正在考虑的一些方程式.我故意没有在我的系统上编译和运行，因为这可能是编译器依赖的类型. int a(1), b(2), c(3);
..
可以影响双精度的最大小数位数
考虑 d1.d2d3d4d5...dnExxx 形式的十进制表示，其中 xxx 是任意指数，d1 和 dn 都不是零. 是否已知最大 n 使得存在十进制表示 d1.d2d3d4d5...dnExxx 使得区间 (d1.d2d3d4d5...dnExxx, d1.d2d3d4d5...((dn)+1)Exxx)包含一个 IEEE 754 double? n 至少应为 17.问题是 17
..
如何将十六进制字符串转换为Java中的浮点数?
Java中如何将十六进制字符串转换为单精度浮点数? 例如如何实现: float f = HexStringToFloat("BF800000");//f 现在应该包含 -1.0 我问这个是因为我试过了: float f = (float)(-1.0);String s = String.format("%08x", Float.floatToRawIntBits(f));f =
..
浮点数的小数精度
相当于 log10(2^24) ≈ 7.225 个十进制数字 维基百科 精度:7位 MSDN 6 std::numeric_limits::digits10 为什么 numeric_limits 在这里返回 6?Wikipedia 和 MSDN 都报告说浮点数具有 7 位十进制数字的精度. 解决方案 如果有疑问，请阅读规范.C++ 标准说 digits10 是:
..
如何计算 SQL 中的小数位数?
我有一个 X 列，其中充满了浮点数，小数位数从 0(无小数)到 6(最大值)不等.我可以依靠这样一个事实，即没有大于 6 位小数的浮点数.鉴于此，我如何创建一个新列以告诉我小数点后有多少位? 我看到一些线程建议我使用 CAST 将浮点数转换为字符串，然后解析字符串以计算小数点后字符串的长度.这是最好的方法吗? 解决方案 你可以这样使用: 声明@v sql_variant设置@v=0
..
在 C 中实现 round() 的简洁方法?
我使用的嵌入式 C 没有 round() 函数，它是数学库，在 C 中实现它的简洁方法是什么?我正在考虑将它打印到一个字符串中，查找小数位，然后在句点之后找到第一个字符，然后如果 >= 5 则向上舍入，否则向下舍入.等等.想知道是否有更聪明的东西. 谢谢，弗雷德 解决方案 正如许多其他答案所暗示的那样，您可以重新发明轮子.或者，您可以使用其他人的轮子——我建议使用 Newlib 的轮
..
非规范化数字 - IEEE 754 浮点
因此，我正在尝试了解有关 IEEE 754 浮点数标准中定义的非规范化数字的更多信息.感谢 Google 搜索结果，我已经阅读了几篇文章，并且浏览了几篇 StackOverFlow 帖子.但是我还有一些问题没有得到解答. 首先，回顾一下我对非规范化浮点数的理解: 精度位数较少且较小的数字(在幅度)比归一化数字 本质上，非规范化的浮点数能够表示可以用任何浮点值表示的最小(数量级)数
..
%g printf 说明符究竟是什么意思?
%g 说明符的行为方式似乎与大多数来源记录的行为方式不同. 根据我发现的大多数来源，在使用 printf 说明符的多种语言中，%g 说明符应该等同于 %f 或 %e - 为提供的值产生较短的输出.例如，在撰写此问题时，cplusplus.com 说 g 说明符的意思是: 使用最短的表示:%e 或 %f PHP 手册说 意思是: g - %e 和 %f 的较短者. 这里
..
Javascript浮点减法
我想知道如何在 javascript 中减去两个负浮点数.我试过了: alert(-0.2-0.1); 结果是-0.30000000000000004.难道我做错了什么?我需要做什么才能获得 -0.3 ? 解决方案 不，你的代码没有问题，大多数小数不能精确表示在二进制中，使用 number.toFixed(x) x 是你想要的小数位数，number 是减法的结果.
..
为什么在浮点文字的末尾添加 0 会改变它的舍入方式(可能是 GCC 错误)?
我在我的 x86 VM(32 位)上发现了以下程序: #include void foo (long double x) {整数 y = x;printf("(int)%Lf = %d\n", x, y);}诠释主要(){富(.9999999999999999999728949456878623891498136799780L)；富(.999999999999999999972
..
php浮点数计算小数点后2位
有一道数学计算题. $a = 34.56$b = 34.55 $a做一些计算得到这个数字 $b 正在四舍五入到最接近的 0.05 以获得这个数字 发生了什么 $c = $b - $a 应该是-0.01，但是我回显了$c，它显示了-0.00988888888888 我尝试使用number_format($c, 2)，但是输出是0.00， 如何确保 $a 和 $b 正好
..
C动态printf double，不损失精度且不尾随零
我是 C 的新手，并且从书本/互联网上学习.我正在尝试编写一个函数，我可以将任何 double 传递给并返回一个 int 以用于 printf("%.*lf"... 语句，这样返回的 int 既不会降低精度，也不会产生尾随零. 我有一个工作函数，但它非常大，因为它是为了可读性而编写的，并且都被注释掉了. 总结一下这个函数，我计算了在 10 > 范围内获得 double 需要多少次除以
..
在 C 中读取/写入浮点类型时如何处理字节顺序差异?
我正在为我的应用程序设计一种文件格式，我显然希望它能够在大端和小端系统上工作.我已经找到了使用 htonl 和 ntohl 管理整数类型的有效解决方案，但是在尝试使用 float 和 double 值. 鉴于浮点表示的工作方式，我假设标准字节顺序函数不适用于这些值.同样，我什至不完全确定传统意义上的字节序是否决定了这些类型的字节顺序. 我需要的只是一致性.一种写出 double 的方法
..