floating-point-conversion相关内容

获取浮点常量,使其与运行时结果(和VB.NET)相同

我尝试了与 Michael Meadows EDIT 2 等效的方法,但是在VB.NET中得到了不同的结果. (具体来说,Double和Decimal结果均为600000.0238418580.) 我已经确定差异在于C#中存储在float中的float(Single)除法的编译时精度(当存储到float中时,这似乎更等同于VB.NET的精度). Double),以及当您强制在运行时进行除法时 ..
发布时间:2020-06-15 18:51:43 C#/.NET

按位浮点到整数

我正在尝试找出算法,但是我在google上得到的全部是通过强制转换来实现的.我需要知道细节. 因此,如果我们有一个float x并想返回其二进制表示形式,那我们需要做什么? 我知道我们需要返回浮点数(如果其NaN或无穷大),但是返回步骤是什么? 编辑 该函数将一个无符号的int用作浮点数,然后返回该数字表示的整数.我不能使用强制转换,只能使用条件运算符和按位运算符. ..

在VBA中从IEEE-754 double中提取尾数,指数和符号数据

如何从VBA中的IEEE-754 64位(双)浮点数中提取尾数,指数和符号数据?谢谢 编辑(在John Coleman评论之后).在发布原始问题之前,我到处寻找解决方案,并且只能找到如何在C语言中执行此操作(例如,使用具有位字段的结构).无法为VBA找到任何东西.我曾尝试使用VBA的位运算符(即AND,OR,NOT,XOR),但这似乎无法提供预期的结果.例如,以单精度IEEE 32位浮点表示 ..

为什么IEEE-754浮点不能在平台之间互换?

声明 (即使考虑到字节的字节序),也不保证IEEE754浮点可以在平台之间互换. 所以: 从理论上讲,为什么平台之间不能交换IEEE浮点 ? 这些关注点是否对现代硬件平台(例如i686,x64,arm)有效? 如果这些担心是正确的,请您举个例子说明这种情况(首选C或C ++)吗? 动机:几个 GPS 解决方案 IEEE 754条款3.4指定了二进制交换格式编码.给定浮 ..
发布时间:2020-06-15 18:51:32 C/C++开发

读取浮点数到数组中

我怎么读10个浮点数并将它们存储在一个数组中而又不浪费任何内存? 解决方案 啊哈.问题不是读取浮点数,而是内存.您读了 i ,并且需要一个完全容纳 i 浮点数的数组. 这确实闻起来像家庭作业,很好,但是我老师太多了,无法给您完整的答案.因此,我告诉您,您需要的是一个名为 malloc()的C函数和一个名为 sizeof . 请参阅本教程. 是的,你到了那里.这是您注释中的 ..
发布时间:2020-06-15 18:51:28 其他开发

在Java中处理四倍精度浮点数(128位)

我需要利用来自另一个系统的数字,这些数字是Java中的128位(四精度)浮点数. 考虑到Java中没有等效类型,我想使用Java代码降低数字的精度,以便将它们存储在Java double中.可以在c或使用汇编中相当容易地完成此操作,但我只想在java中完成. 公平地假设四精度数存储在Java中的128位字节数组中. 仅使用java是否有一个好的解决方案?谢谢. 解决方案 ..
发布时间:2020-06-15 18:51:26 Java开发

如何将浮点数转换为十六进制

在Python中,我需要将一堆浮点数转换为十六进制.必须填充为零(例如0x00000010而不是0x10).就像 http://gregstoll.dyndns.org/~gregstoll/floattohex/一样. (遗憾的是,我无法在平台上使用外部库,因此无法使用该网站上提供的库) 最有效的方法是什么? 解决方案 这在python中有点棘手,因为它不希望将浮点 value 转 ..
发布时间:2020-06-15 18:51:14 Python

为什么在Python 3中str(float)返回的位数要比Python 2多?

在Python 2.7中,float的repr返回最接近的十进制数字,最长为17位数字;这足够精确以唯一地标识每个可能的IEEE浮点值. float的str的工作方式类似,只是将结果限制为12位.在大多数情况下,这是一个更合理的结果,它使您免受二进制和十进制表示形式之间的细微差别. Python 2演示: http://ideone.com/OKJtxv print str(1.4*1 ..
发布时间:2020-06-15 18:51:12 Python

将32位实数转换为2x 16位字节

我正在尝试通过CAN通信(IFM)发送32位实数,但是CAN通信只接受16位值。 如果我尝试发送的值超过255,它将重置为0,并继续该模式。因此,我需要将32位的Real值拆分为两个16位的值,然后在通讯的另一端重新组装。 我似乎不明白 任何帮助将不胜感激 解决方案方案 我知道我参加聚会有点晚了,但想将此添加为解决方案。 VAR rRealVar:REAL; ..

将float转换为其二进制表示形式(使用MemoryStream?)

我想将给定的float转换为其二进制表示形式.我试图将浮点值写入MemoryStream,逐字节读取此MemoryStream,然后将字节转换为二进制表示形式.但是每次尝试都失败了. “无法读取关闭的视频流"(但我只关闭了作家) 出于测试目的,我只写了一个整数(我认为是四个字节),当不刷新StreamWriter时,MemoryStream的长度为0,而当我刷新时,其长度为1. li> ..
发布时间:2020-05-08 22:41:13 C#/.NET

为什么JavaScript的数字*显示大数字不准确?

所以在JavaScript中,111111111111111111111 == 111111111111111110000。只需键入任意长号 - 至少约17位数 - 即可查看其中的操作; - ) 这是因为JavaScript使用双精度浮点数,并且无法准确表达某些非常长的数字文字。相反,这些数字可以四舍五入到最接近的可表示数字。参见例如什么是JavaScript的最高整数值可以达到而不会丢失精 ..

在IEEE中将IEEE754转换为十六进制

对于一个项目,我需要从MQTT中读取信息。有效负载填充protobuf信息,需要进行转换。 对于某个值,我将5.6904566139035E-28作为浮点数。使用 http://www.exploringbinary.com/floating-point-converter/ 可以转换这个,当我勾选单一的和原始的十六进制值,然后我收到12345678,我应该有的价值(我知道是什么发送)。 ..
发布时间:2017-12-21 22:31:48 PHP

Float24(24位浮点)到十六进制?

我使用浮点24位来存储一个浮点数值在恩智浦编译器MRK III中。它将24位浮点值存储为数据存储器中的3字节十六进制数。 现在,当我使用IEEE 754浮点转换从二进制检索数字回到真实时,我得到了一些非常奇怪的东西。 让我用这样一个例子来说吧 - 注意 - “由于我的编译器支持浮点数24位(和浮点数32一样),所以我赋值的意思就像这样。 示例程序: float24 f2 ..

将4个原始字节转换为32位浮点

eeprom存储器(0-4)中的4个字节是: B4 A2 91 4D 和PC(VS Studio)正确重建为3.054199 * 10 ^ 8(我知道的浮点值应该在那里) 现在我把这个eeprom从一个8位的Arduino中读取出来,所以不知道它是编译器还是平台的东西,但是当我尝试读取4个字节到一个32位的字节时,然后将它转换为一个浮点数,我得到的值甚至不是很接近。 假设转换不能 ..
发布时间:2017-12-21 22:13:46 C/C++开发

正确的算法来转换二进制浮点数“1101.11”变成十进制(13.75)?

我用C编写了一个程序来转换浮点数以二进制表示 ( 1101.11 )转换为十进制( 13.75 )。然而,我似乎无法从算法中得到正确的值。 什么是正确的方法用于将二进制浮点数转换为十进制吗?我使用的是开发CPP编译器(32位)。算法定义如下: void b2d(double p,double q) { double rem ,dec = 0,main,f,i,t = 0; $ ..
发布时间:2017-12-21 22:12:59 其他开发