precision相关内容

VB.NET-来自KML文件的多边形中的点

我从KML文件中提取了大量Polygons。这些多边形代表地球表面上的积木。 我可以读取多边形的坐标并存储它们的值,以及我拥有的一些有关该多边形的其他信息。 我的问题是,我现在有一个点的集合(以及它们的坐标,我们再次讨论的是地球表面上的点),我需要检查它们属于哪个多边形。 我知道PiP不是一个微不足道的新问题,所以我不想重新发明轮子! 有没有VB.NET库可以帮助我快速解决这个问题? ..
发布时间:2022-08-23 17:37:27 其他开发

从Java方法返回时,BigDecimal不保留实际值

我正在用Java制作一个货币转换应用程序。其他一些很棒的StackOverflwians给了我一些建议,让我仔细阅读BigDecimal,以便替换Double来解决任何精度问题。 我有一个两种方法系统;它从起始货币转换为美元,然后将美元值转换为目标货币。 注意,我的转换率存储如下: // Conversion Rates - START (as of October 30, 20 ..
发布时间:2022-08-11 22:12:02 Java开发

为什么Bean验证最小/最大约束不支持Double类型?

请解释一下,为什么JPA支持double类型作为字段类型,而javax.validation.constraints中的Bean验证约束(即@Min/@Max)不支持? 我知道文档说这是由于舍入误差,但如果我选择字段类型为double,我已经承认我不太关心显式精度。 我遇到这种两难境地的场景如下:我有一个实体表示地球表面上的一个点。如果精度在几厘米以内就可以了。它看起来像这样: @Enti ..
发布时间:2022-07-15 10:31:48 Java开发

浮点算术:加法顺序为什么重要?

我知道不可能用有限的位数来表示任意精度的所有数字,而且浮点数的天真比较也是不可取的。但我预计,如果我将许多数字相加在一起,我将它们相加的**顺序**并不重要。 为了测试这个预测,我创建了一个随机数向量并计算它们的和,然后对向量进行排序并再次计算和。通常情况下,这两个数字不匹配!这是我的代码(包括在下面)的问题,还是浮点算术的普遍缺陷,或者可能通过切换编译器等来解决的问题? #inclu ..
发布时间:2022-07-15 10:17:26 C/C++开发

为什么结果不同?浮动VS双精度

System.out.println(0.1F + 0.2F); // 0.3 System.out.println(0.1D + 0.2D); // 0.30000000000000004 我理解为0.1D+0.2D~=0.30000000000000004。 但我猜这些结果是一样的,但事实并非如此。 为什么结果不同? 推荐答案 结果为何不同? 一般意义上: 因为 ..
发布时间:2022-07-14 23:50:05 Java开发

WEKA分类在精度、FMEASURE和MCC方面没有给出任何结果

我有一个数据集。该数据集具有一些类别值和一些离散值。我的数据集是不平衡的数据集。使用Weka提供的Resample过滤器将数据集分为60%的训练数据和40%的测试数据。为了使数据集平衡,我使用了SMOTE技术。之后,我使用随机森林对数据集进行分类。 结果为 现在我不明白结果中?是什么意思?其次,为什么假阳性和真阳性没有价值?这是否意味着即使在应用SMOTE之后,数据集仍然偏向No类? ..
发布时间:2022-04-22 22:06:26 其他开发

如何找到最简单的、人类可读的浮点型字符串,该字符串在转换回浮点型时会产生相同的字节?

对于大多数数字,我们知道任何浮点值都会有一定的精度误差。对于32位浮点数,这将计算出大约6个有效数字,在您可以预期看到不正确的值之前,这些数字将是准确的。 我正在尝试存储一个人类可读的值,该值可以读入并重新创建位准确的序列化值。 例如,值555.5555被存储为555.55548095703125;但是当我序列化555.55548095703125时,理论上我可以将它序列化为(555.55 ..

在Python上的%Precision 2

如果我有这段代码: import csv %precision 2 with open('blah.csv') as csvfile: blah = list(csv.DictReader(csvfile)) %precision 2行是什么意思? 推荐答案 这是IPython魔术。它控制浮点的显示方式: >>> 1.2345 1.2345 >>> %pre ..
发布时间:2022-04-10 22:46:27 Python

Math.RANDOM能产生多少信息量?

我想生成一个非常大的随机数。我不需要这个号码是加密安全的。因此,我没有使用crypto.getRandomValues。目前,我生成的随机数如下: 数据-lang=“js”数据-隐藏=“假”数据-控制台=“真”数据-巴贝尔=“假”> const random = length => Math.floor(length * Math.random()); const padd ..
发布时间:2022-04-10 22:41:32 前端开发

C语言中无休止的正弦生成

我正在进行一个项目,该项目将计算正弦波作为控制回路的输入。 正弦波的频率为280赫兹,控制回路每30微秒运行一次,Arm Cortex-M7的所有内容都用C语言编写。 目前我们只是在做: double time; void control_loop() { time += 30e-6; double sine = sin(2 * M_PI * 280 * time ..
发布时间:2022-04-10 22:37:18 其他开发

在C++中使用浮点数(DOUBLE)失去精度

我正在尝试将一个较大的double值赋给一个变量,并在控制台上打印它。我提供的数字与显示为输出的数字不同。是否有可能在不损失精度的情况下正确分配和输出double值?以下是C++代码: #include #include int main( int argc, char *argv[] ) { // turn off scientific ..
发布时间:2022-04-10 22:32:29 C/C++开发

Python的Decimal类是可变宽度的吗?

在Python中,您可以拥有任意大的整数(尽管它可能会占用您所有的内存来存储它们)。另一方面,对于浮点数,它们最终会溢出,如果您试图用太多的小数点来计算浮点数,则会失去精度。 哪个是decimal.Decimal类? 我可以在小数点前有任意数量的数字吗?小数点后呢?限制是什么? 推荐答案 Decimal具有用户指定的精度;您可以修改当前上下文以指定必须保留的小数位数。PER ..
发布时间:2022-04-10 22:28:16 Python

那么,Float8、Float16、Float32、Float64和Float128到底可以包含多少位数字呢?

请原谅我问了这么愚蠢的问题,但我在网上找不到任何答案。 Numpy's dtype documentation只显示每个浮点类型的X位指数和Y位尾数,但我无法将X位指数和Y位尾数转换为小数点之前/之后的确切数字。有什么简单的公式/表格可供查阅吗? 提前谢谢您 推荐答案 这不像通常预期的那么简单。对于尾数的准确性,通常有两个值: 给定十进制表示的值,如果将十进制格式转换 ..
发布时间:2022-04-10 22:26:05 Python