floating-point相关内容

Fortran中特定的双精度函数有用吗？

我注意到在使用gfortran时，tan函数返回与其参数相同类型的实值；例如，可以将real(kind=4)、real(kind=8)或real(kind=16)传递给它，并分别在real(kind=4)、real(kind=8)或real(kind=16)中得到结果。 另一方面，像dtan这样的双精度函数就没有那么灵活了。如果默认双精度类型为8[1]，则只接受并返回real(kind=8)；如 ..

发布时间：2022-08-26 16:52:22 floating-point fortran gfortran 其他开发

VB.NET-来自KML文件的多边形中的点

我从KML文件中提取了大量Polygons。这些多边形代表地球表面上的积木。 我可以读取多边形的坐标并存储它们的值，以及我拥有的一些有关该多边形的其他信息。 我的问题是，我现在有一个点的集合(以及它们的坐标，我们再次讨论的是地球表面上的点)，我需要检查它们属于哪个多边形。 我知道PiP不是一个微不足道的新问题，所以我不想重新发明轮子！ 有没有VB.NET库可以帮助我快速解决这个问题？ ..

发布时间：2022-08-23 17:37:27 vb.net floating-point precision kml point-in-polygon 其他开发

为什么Z3&Quot；舍入&Real小到1.0/0.0？

我正在使用Z3的pythonAPI进行一些线性实数运算。我遇到过一种情况，非常接近于零的雷亚尔以某种方式转换为1.0/0.0。这进而导致Z3的C++部分内部出现浮点异常。 例如，我有以下的Python程序： from z3 import * s = Solver() s.add(0.00001 * Real("a") + 0.00001 * Real("b") > 0.0) print ..

发布时间：2022-08-22 09:00:51 python floating-point z3 z3py real-datatype Python

输入数字验证-限制为仅输入数字或数字，整型和浮点型(&A；&A)

如何将输入字段限制为仅输入数字/数字整型和浮点型。 有时我们需要允许整型和浮点型两种类型的字段，比如Amount，所以在这种情况下需要进行验证。没有可用的解决方案，但它们的代码很大。因此需要一个简短但有效的代码。 Input box that accepts only valid int and float values. ..

发布时间：2022-07-25 12:10:15 javascript jquery validation floating-point numbers 前端开发

浮点算术：加法顺序为什么重要？

我知道不可能用有限的位数来表示任意精度的所有数字，而且浮点数的天真比较也是不可取的。但我预计，如果我将许多数字相加在一起，我将它们相加的**顺序**并不重要。 为了测试这个预测，我创建了一个随机数向量并计算它们的和，然后对向量进行排序并再次计算和。通常情况下，这两个数字不匹配！这是我的代码(包括在下面)的问题，还是浮点算术的普遍缺陷，或者可能通过切换编译器等来解决的问题？ #inclu ..

发布时间：2022-07-15 10:17:26 c++ floating-point precision C/C++开发

尝试在整数后添加字符，然后打印结果时出现奇怪的结果

我正在尝试创建一个简单的计算器沃尔·欧姆定律。 所以这个想法是，你可以填两个变量，然后它就会计算第三个变量。 当我创建这个程序时，我发现了一个小问题，我不知道它是如何发生的，不幸的是，我无法找到答案。 我试图打印一个字符串，其中显示了完整的计算。因此，用户填写的两个变量和答案。在欧姆变量(本例中为‘R’)之后，也应打印正确的符号。 如下例所示，在变量后添加符号的唯一方法是首先添加一个 ..

发布时间：2022-06-24 18:03:35 java printing floating-point char Java开发

为什么Java&；的Double.Compare(Double，Double)是这样实现的？

我正在研究Java标准库(6)中compare(double, double)的实现。上面写着： public static int compare(double d1, double d2) { if (d1 d ..

发布时间：2022-06-24 10:51:41 java comparison floating-point Java开发

JIT优化浮点问题

背景 所以我用C#做了一个不公平的绞刑的简单游戏(有一个单词列表，这些单词是基于我给玩家的信息(例如，单词长度)，这些单词是有效的解决方案，随着时间的推移逐渐缩小，只有当只有一个可能的解决方案并且他们猜到了所有字母时，玩家才会赢)。 无论如何，重要的是要知道我有一行代码，如下所示： availableWords.RemoveAll(word => AmountInCommon(word) ..

发布时间：2022-06-12 09:26:29 c# floating-point compiler-optimization jit C#/.NET

如何删除浮点数的&0和0？

假设我有一个浮点数。如果它是一个整数(例如1.0、9.0、36.0)，我想去掉“.0”(小数点和零)并写入标准输出。例如，结果将是1、9、36。如果浮点数是有理数，如2.5335和95.5893，我希望输出与输入的一样，即2.5335和95.5893。有什么聪明的方法可以做到这一点吗？ 只有数字在小数点后是否有.0或其他数字才有意义。我可以说我的问题是：我如何知道浮点数是否真的是整数？ ..

发布时间：2022-04-18 15:16:19 floating-point int python-3.5 其他开发

Static_cast&；lt；double&；gt；(std：：nanf(&；quot；&；quot；))是否定义良好？

标题几乎要求所有这些，但要提供一个MCVE： #include int main() { float f = std::nanf(""); double d = static_cast(f); return 0; } 在MSVC 2017下，f和d都报告为nan，但这证明不了什么，因为static_cast可能是未定义的行为。 ..

发布时间：2022-04-14 17:28:45 c++ floating-point language-lawyer nan C/C++开发

为什么与NaN进行比较会产生FALSE(Python)？

在这里，我有以下内容： >>> import numpy as np >>> q = np.nan >>> q == np.nan False >>> q is np.nan True >>> q in (np.nan, ) True 因此，问题是：为什么NaN不等于NaN，但NaN是吗？ (唯一)为什么‘in’返回True？ 我似乎无法追踪NaN的实施情况。它将我带到C：Python3 ..

发布时间：2022-04-14 17:03:55 python numpy floating-point nan Python

如何找到最简单的、人类可读的浮点型字符串，该字符串在转换回浮点型时会产生相同的字节？

对于大多数数字，我们知道任何浮点值都会有一定的精度误差。对于32位浮点数，这将计算出大约6个有效数字，在您可以预期看到不正确的值之前，这些数字将是准确的。 我正在尝试存储一个人类可读的值，该值可以读入并重新创建位准确的序列化值。 例如，值555.5555被存储为555.55548095703125；但是当我序列化555.55548095703125时，理论上我可以将它序列化为(555.55 ..

发布时间：2022-04-10 22:54:04 serialization floating-point precision human-readable 其他开发

在什么情况下，整数和浮点数之间的比较等于‘真’？

我了解Number.MAX_SAFE_INTEGER和Number.MIN_SAFE_INTEGER。 我知道Number.MAX_SAFE_INTEGER + 1 === Number.MAX_SAFE_INTEGER + 2等于True。 但我最近才意识到： 数据-lang=“js”数据-隐藏=“假”数据-控制台=“真”数据-巴贝尔=“假”> var number = 20 ..

发布时间：2022-04-10 22:33:39 javascript floating-point precision 前端开发

在C++中使用浮点数(DOUBLE)失去精度

我正在尝试将一个较大的double值赋给一个变量，并在控制台上打印它。我提供的数字与显示为输出的数字不同。是否有可能在不损失精度的情况下正确分配和输出double值？以下是C++代码： #include #include int main( int argc, char *argv[] ) { // turn off scientific ..

发布时间：2022-04-10 22:32:29 c++ floating-point double precision C/C++开发

那么，Float8、Float16、Float32、Float64和Float128到底可以包含多少位数字呢？

请原谅我问了这么愚蠢的问题，但我在网上找不到任何答案。 Numpy's dtype documentation只显示每个浮点类型的X位指数和Y位尾数，但我无法将X位指数和Y位尾数转换为小数点之前/之后的确切数字。有什么简单的公式/表格可供查阅吗？ 提前谢谢您 推荐答案 这不像通常预期的那么简单。对于尾数的准确性，通常有两个值： 给定十进制表示的值，如果将十进制格式转换 ..

发布时间：2022-04-10 22:26:05 python numpy floating-point precision Python

银行家的四舍五入真的在数字上更稳定吗？

我说的银行家四舍五入是指 “四舍五入，平分” ASrecommended by IEEE 754： 舍入到最接近的值；如果数字落在中间，则舍入到具有偶数(零)最低有效位的最接近的值。这是二进制浮点的默认设置，也是十进制的推荐默认设置。 据说此方法优于 “四舍五入到最近，平局离零” on the grounds that它“将对四舍五入的数字求和时的预期误差降至最 ..

发布时间：2022-04-01 23:22:57 floating-point language-agnostic rounding floating-accuracy 其他开发

将浮点型转换为整型时的四舍五入

我有一个带有浮点(小数)索引的 pandas DataFrame，我用它来查找值(类似于字典)。由于浮点数并不完全是理应的值，因此在将其设置为索引之前，将其乘以10并将其转换为整数.astype(int)。然而，这似乎是进行floor而不是四舍五入。因此，1.999999999999999992被转换为1而不是2。使用前面的pandas.DataFrame.round()方法进行四舍五入无法避免此 ..

发布时间：2022-04-01 23:20:21 python pandas floating-point int rounding Python

有没有公式来计算浮点数中指数或有效位的位数？

最近，我对使用浮点数的位移位来进行一些快速计算很感兴趣。 为了使它们以更通用的方式工作，我希望使我的函数使用不同的浮点类型，可能是通过模板，这些浮点类型不仅限于float和double，还包括"；Halfwidth"；或"；四倍宽&Quot；浮点数等等。 然后我注意到： - Half --- 5 exponent bits --- 10 sig ..

发布时间：2022-03-01 17:59:45 c++ c floating-point bit-manipulation C/C++开发

如何重载自定义类的`Float()`？

如何实现重载float()的方法，即当我编写的类的实例传递给float()时会调用该方法？ 我开始编写自己的Fraction类： class Fraction: def __init__(self, num = 0, denom = 1): self.num = float(num) self.denom = float(denom) 现在我 ..

发布时间：2022-02-27 15:09:53 python floating-point operator-overloading overloading Python

何时在C中使用%d和%f？

我刚接触C编程，但在Java中还算不错，我的问题是我们什么时候使用%d和%f？在什么情况下？例如，根据下面给出的代码挡路，如果要求我取(Int)a*(浮点数)y，我是将其视为%d还是%f？ #include int main() { int a = 2; float y= 1.5; printf("%d ", a*y); //do I tak ..

发布时间：2022-02-25 23:46:30 c floating-point printf double 其他开发