Oracle 浮点数与数字
..
fixed-point相关内容
C++ 定点库?
我正在寻找一个免费的 C++ 定点库(主要用于嵌入式设备，而不是用于任意精度的数学).基本上，要求是: 没有不必要的运行时开销:任何可以在编译时完成的工作，都应该在编译时完成. 能够在定点和浮点之间透明地切换代码，没有固有的开销. 定点数学函数.如果您需要来回转换以求平方根，那么使用不动点就没有多大意义了. 占地面积小. 有什么建议吗? 解决方案 有一个开源定点数学库项目
..
c#中的定点数学?
我想知道这里是否有人知道 C# 中定点数学的任何好的资源?我见过这样的事情(http://2ddev.72dpairmy.com/viewtopic.php?id=156)和这个(什么是进行定点数学的最佳方法?)，以及关于小数是真正定点还是实际浮点的一些讨论(更新:响应者已经确认它肯定是浮点)，但我还没有看到一个可靠的 C# 库，用于计算余弦和正弦. 我的需求很简单——我需要基本的运算符，加
..
在mysql中存储金额
我想将 3.50 存储到 mysql 表中.我有一个存储它的浮点数，但它存储为 3.5，而不是 3.50.我怎样才能让它有尾随零? 解决方案 不要将货币值存储为浮点数，使用 DECIMAL 或 NUMERIC 类型: MySQL 数字类型文档 编辑 &澄清: 浮点值容易受到舍入误差的影响，因为它们的精度有限，因此除非您不在乎只能得到 9.99 而不是 10.00，否则您应
..
从定点 atan2() 近似中去除缓慢的 int64 除法
我创建了一个函数来计算 atan2(y, x) 的定点近似值.问题是在运行整个函数所需的大约 83 个周期中，70 个周期(在 AMD FX-6100 上使用 gcc 4.9.1 mingw-w64 -O3 编译)完全由一个简单的 64 位整数除法完成！可悲的是，该部门的任何条款都不是恒定的.我可以加快除法本身的速度吗?有什么办法可以去掉吗? 我想我需要这个除法，因为我用一维查找表近似 at
..
Java中具有快速性能的定点算法
我需要用Java精确地表示一些数字，并在小数点后固定小数点的数量；在那个小数点之后，我不在乎.(更具体地说-金钱和百分比.) 我现在使用Java自己的BigDecimal，但是我发现，它 确实 很慢，并且开始在我的应用程序中显示. 所以我想用一个“常规"整数和一个定点算术(长整数对于我的目的足够大的精度)来解决它. 现在，我想我不是第一个遇到这种问题的人，并且已经有一个针对该问题
..
什么是定点整数?
在 http://microformats.org/wiki/hreview-aggregate 它说: 评分.必需的.定点整数[1.0-5.0]，具有可选的最差整数(默认值:1.0)和/或最佳整数(默认值:5.0)，还有定点整数和显式平均值. 什么是定点整数?也许这意味着整数?为什么1.0或2.5或5.0也称为“定点整数"?因为整数没有小数部分. 解决方案 正如cdho
..
C/C ++中的数值转换
我需要将C/C ++ double转换为64位二进制补码，其中Radix点位于第19位(包括第19位). 这意味着对于我要转换为的格式 0x0000 0000 0010 0000是数字1 0xFFFF FFFF FFF0 0000是数字-1 0x0000 0000 0000 0001是0.95 x 10 ^ -6 0xFFFF FFFF FFFF FFFF为-0.95 x 10
..
带有参数约束的定点功率(pow)功能的有效实现
我正在寻找功能 pow(a，b)的有效实现，其中 a 限于区间(0,1)，而 b 是> = 1 (都是实数，即不一定是整数). 如果有帮助，则 b 并不是一个很高的数字-假设它小于10-20.这将为迭代迭代解决此问题提供可能性，只需进行少量迭代〜= b 代码应在32位微控制器上运行，可能没有浮点单元(即使用定点实现). 如何实现针对以下约束进行优化的此类功能?我正在寻找算法本身，
..
在定点类型上实现模数
因此，目前我正在帮助开发一种编程语言，并且我们已经达到必须使用C ++作为骨干语言来实现定点类型的程度，以便能够编写这种语言.我能够弄清楚如何添加，减去，相乘，除，但是对于如何完成模数和指数的绘制，我是一个空白.我觉得我快要找出指数了，所以我将把这个问题集中在模数上. 当前，我要做的是输入一个字符串文字并跟踪基数的点，并找到距字符串末尾的距离，这给了我缩放系数.之后，我们保留整个大整数，该整
..
将库添加到VHDL项目
我试图在我的VHDL项目中使用定点数，但是在实现该库时一直遇到困难(请在此处找到 http://www.eda-stds.org/fphdl/fixed_pkg_c.vhdl ).尝试模拟时收到的错误是 is not declared 我的问题是，应该如何准确地实现一个库以便可以使用它?截至目前，我已将其添加到IEEE_PROPOSED库中的项目中，但无法正常工作.所有
..
VDHL固定的解码代码无法正常工作
我正在使用 David Bishop的不动点库在vhdl中进行一些数学运算.我需要将最终值解码为整数.我遵循的方法如下，我确实得到了小数部分的精细值，但十进制值不正确.我找不到问题了.在十进制部分的第一位，两位数字错误. xx 8374.839923 xx 数字始终是错误的. 执行此操作时，我得到 1 74334.738295 的 2 74334.738295 内部架构， 在进程内部，我
..
用浮点键实现类似于哈希表的数据结构，其中将公差范围内的值合并在一起
我需要一个带有浮点键的关联数据结构，其中具有几乎相等值的键被合并在一起.我正在使用C ++，但是语言并不重要. 基本上我当前的策略是 仅处理单精度浮点数 使用具有自定义键类型的unordered_map 在键类型上将哈希函数定义为 a.给定的浮点v用双精度将v除以某个公差(例如0.0005)，得到k. b.将k转换为64位整数，产生ki c.返回ki的st
..
如何在float上使用expr?
我知道这确实是一个愚蠢的问题，但是我不知道如何在bash中做到这一点: 20 / 30 * 100 它应该是66.67，但是expr说的是0，因为它不支持浮点数. Linux中的哪个命令可以代替expr并执行此相等操作? 解决方案 如bash手册页中所述: Shell允许在某些情况下对算术表达式进行求值...求值以固定宽度的整数进行，不检查溢出，尽管会捕获除以0并将其标记为
..
在C ++中将双精度转换为固定的小数点
我在C ++中有一个double变量，想将其作为固定的小数点号显示在屏幕上。 基本上我想知道如何写一个函数，该函数使用双精度数和小数位数，然后将数字输出到该小数位数，并在必要时填充零。 例如： 转换（1.235，2） 将打印出 1.24 和 convert（1，3） 将打印出来 1.000
..
如何使用python将浮点数转换为具有预定义位数的固定点
我有numpy格式的浮点数32个数字(比方说正数).我想将它们转换为具有预定义位数的定点数，以降低精度. 例如，使用函数num2fixpt，数字3.1415926在matlab中变为3.25. 该命令是num2fixpt(3.1415926，sfix(5)，2 ^(1 + 2-5)，'Nearest'，'on')，它表示整数部分为3位，小数部分为2位. 我可以使用Python做同样的事
..
如何使用定点算法在正弦查找表（LUT）中查找偏移
我正在生成一个将0-2PI分成512个片段的LUT，然后找到这些值的正弦值并将其存储为Q1.31值。 示例： LUT [0] = 0 LUT [1] = sin（（1/512）* 2 * PI）*（2 ^ 31） .. .. LUT [511] = sin（（511/512）* 2 * PI）*（2 ^ 31） 我的输入也是Q1.31格式的值。
..
通过使用16位算术求序列来计算π时避免溢出？
我正在尝试编写一个计算π到1000位或更多的十进制数字的程序。 要练习低级编程，最终的程序很有趣将以汇编形式写在没有乘法或除法且仅执行16位加法的8位CPU上。为了简化实现，希望只能使用16位无符号整数运算，并使用迭代算法。 速度不是主要问题。快速乘法和除法不在此问题的范围内，因此也不要考虑这些问题。 在组装之前，我要我仍然试图找出台式计算机上C语言中的可用算法。到目前为止，我发现以下
..
添加饱和的32位带符号的int内在函数？
有人可以推荐使用Intel内部函数（AVX，SSE4 ...）添加饱和的32位有符号整数的快速方法吗？ 我查看了内在函数指南，发现 _mm256_adds_epi16 ，但这似乎只增加了16位整数。我看不到32位的相似之处。 解决方案 在（且仅）以下情况下，会发生签名溢出： 两个输入的符号相同， 总和的符号（加上环绕符号时） ）不同于输入 使用C操作符： overflo
..
用PHP进行精确的实数运算
在PHP中对表示实数的字符串进行基本算术运算的最快，最简单的方法是什么?我有一个字符串，表示要在其上操作的MySQL的DECIMAL值，然后将结果返回到数据库.我想避免浮点实数表示法引入的错误. 是否有一些标准库，例如Python的十进制?您是否可以推荐任何FOSS库? 致谢 解决方案 您可以使用BC数学函数: http://www.php.net/manual/en/r
..