floating-accuracy相关内容

保证C/C ++中sqrt函数的精度

每个人都从C/C ++中的math.h/cmath知道sqrt函数-它返回其参数的平方根.当然，这样做必须有一些错误，因为并非每个数字都可以精确存储.但是我可以保证结果有一定精度吗?例如，“这是平方根的最佳近似值，可以用所用的浮点类型表示.or如果计算结果的平方，则使用给定的浮点类型将使其尽可能接近初始参数. C/C ++标准有什么相关之处吗? 解决方案 对于C99，没有特定要求.但 ..
发布时间：2020-06-12 19:20:26 其他开发

整数和浮点精度

这更多是数字分析而不是编程问题，但我想你们中的一些人将能够回答它. 在两个浮点数的总和中，是否有任何精度损失?为什么? 在浮点数和整数的总和中，是否有任何精度损失?为什么? 谢谢. 解决方案 两个浮点数之和是否有任何精度损失? 如果两个浮点的大小都不同，并且都使用完整的精度范围(大约7个十进制数字)，那么可以，您会在最后一位看到损失. 为什么? 这是 ..
发布时间：2020-06-12 19:19:33 其他开发

php intval()和floor()返回的值太低了吗?

由于PHP中的float数据类型不准确，而MySQL中的FLOAT比INT占用更多的空间(并且不准确)，因此我始终将价格存储为INT，在存储之前乘以100以确保我们的小数点后2位精确的地方.但是我相信PHP的行为不正确.示例代码: echo " "; $price = "1.15"; echo "Price = "; var_dump($price); $price_correc ..
发布时间：2020-05-27 03:01:07 PHP

了解pandas.read_csv()浮点解析

使用pandas.read_csv从CSV读取概率时遇到问题；某些值使用> 1.0读取为浮点数. 特别是，我对以下行为感到困惑: >>> pandas.read_csv(io.StringIO("column\n0.99999999999999998"))["column"][0] 1.0 >>> pandas.read_csv(io.StringIO("column\n0.99999 ..
发布时间：2020-05-24 02:49:05 Python

是否可以强制某个浮点数的指数或有效位数与另一个浮点数匹配(Python)?

这是我前一天尝试解决的一个有趣的问题.是否可以在Python中强制一个float的有效位数或指数与另一个float相同? 出现问题是因为我试图重新缩放某些数据，以使min和max与另一个数据集匹配.但是，我重新缩放后的数据略有下降(大约在小数点后6位之后)，这足以引起问题. 要提出一个想法，我有f1和f2(type(f1) == type(f2) == numpy.ndarray).我 ..
发布时间：2020-05-18 22:17:55 Python

numpy:点(a，b)和(a * b).sum()之间的差异

对于一维numpy数组，这两个表达式应该产生相同的结果(理论上): (a*b).sum()/a.sum() dot(a, b)/a.sum() 后者使用dot()并且速度更快.但是，哪一个更准确?为什么? 某些上下文如下. 我想使用numpy计算样本的加权方差. 我在另一个答案中找到了dot()表达式，并加了一条评论，指出它应该更准确.但是，这里没有给出解释. 解决方案 ..
发布时间：2020-05-18 21:16:40 Python

熊猫和numpy的平均值不同

我有一个MEMS IMU，一直在收集数据，并且正在使用熊猫从中获取一些统计数据.每个周期收集6个32位浮点数.给定收集运行的数据速率是固定的.数据速率在100Hz至1000Hz之间变化，采集时间长达72小时.数据保存在平面二进制文件中.我这样读取数据: import numpy as np import pandas as pd dataType=np.dtype([('a',' ..
发布时间：2020-05-18 19:16:18 Python

VB.NET运行总和在Parallel.for Synclock内的嵌套循环中丢失信息

以下是我能够开发的最佳表示形式，用于计算嵌套在VB.NET(Visual Studio 2010，.NET Framework 4)的Parallel.for循环内的循环内的运行总和.请注意，当在屏幕上以“和"显示结果时，两个和之间存在细微差异，因此在并行化变体中信息丢失.那么，信息如何丢失以及正在发生什么呢?在这种情况下，谁能提供一些有关方法的“显微外科手术"以保持连续不断的增长? (请注意Pa ..
发布时间：2020-05-17 01:20:49 其他开发

MySQL和SQLAlchemy ORM具有很高的数值精度

我使用SQLAlchemy的ORM将一些数字存储在MySQL中.当我以后提取它们时，它们被截断，因此只保留了6个有效数字，从而使我的浮点数失去了很多精度.我想有一种简单的方法可以解决此问题，但我找不到方法.例如，以下代码: import sqlalchemy as sa from sqlalchemy.pool import QueuePool import sqlalchemy.ext.d ..
发布时间：2020-05-15 01:41:50 数据库

PHP/MySQL:最佳的货币操作/存储方式?

因此，我打算制作一个可以处理大量金钱的应用程序(PHP/MySQL)，并且我正在考虑如何使用金钱来存储和操作这些金钱，这涉及到PHP float数据类型和MySQL十进制. 我在想两个选择.其中之一是以整数美分格式($ dollars * 100)操作和存储货币，以便不处理浮点运算，也将其也存储为整数.另一种是在数据库中以小数形式存储，并在PHP中使用BC Math进行计算. 因此，我 ..
发布时间：2020-05-15 00:49:13 PHP

MATLAB浮点精度

我想检查QR算法的数值稳定性，为此，我需要创建如下矩阵: S = diag(2.^(-1:-1:-80)); 但是它的排名是46，我认为是因为缺乏准确性.但是在我正在读的书中，它是完整排名的矩阵.如何提高计算的准确性? 解决方案 您可以使用 vpa (可变精度算术): >> S = diag(2.^vpa((-1:-1:-80)), 100); %// 100 here ..
发布时间：2020-05-06 15:07:31 其他开发

使用简单算术的Ruby数字精度

我正在学习Ruby，这很有趣，也可以用来创建网站(但这无关紧要).在玩游戏时，我注意到“怪异" 当我用irb计算4.21 + 5时，它回答9.21(很奇怪，对吧?) 当我计算4.23 + 5时，得出的数值为9.23(哇，那肯定很奇怪). 当我键入4.22 + 5时，它将回答9.21999 ...(w ...等等！那真是太奇怪了). 因此，我的问题是:怎么回事? 我会用除法或 ..
发布时间：2020-05-06 11:20:39 其他开发

Java的算术精度更高

我正在用Java构建一个Web应用程序，该应用程序可以进行数学运算并向用户显示步骤.当使用小数进行基本算术运算时，我经常会在准确的输出中感到混乱. 这是我的问题: double a = 0.15; double b = 0.01; System.out.println(a - b); // outputs 0.13999999999999999 float a = 0.15; float ..
发布时间：2020-05-06 11:08:18 Java开发

如何安全地将CGFloat地板或吊顶到int?

为了计算数组索引，我经常需要将CGFloat放到顶部或悬吊到int上. 我经常在floorf(theCGFloat)或ceilf(theCGFloat)上看到的问题是浮点错误可能会带来麻烦. 所以如果我的CGFloat是2.0f，但是在内部将其表示为1.999999999999f或类似的东西怎么办.我执行floorf并得到1.0f，它又是一个浮点数.但是我必须将此野兽强制转换为int， ..
发布时间：2020-05-06 10:59:15 移动开发

对于给定的fp精度，检查数字在Python中是否合理

我想知道一种检查python中数字x是否是有理数(存在两个整数n，m以便x = n/m)的好方法. 在Mathematica中，这是通过函数Rationalize[6.75]:27/4 完成的 我认为这个问题对于给定的准确性有一个答案. 是否有获取这两个整数的通用算法? 解决方案 在python> = 2.6中，有一个 as_integer_ratio 浮点数的方法: >> ..
发布时间：2020-05-06 10:49:05 Python