我怎样才能达到一定的浮点精度？ [英] How can I round to a certain floating-point precision?

问题描述

我认为这是一个简单的问题。我想：

  a = 1.154648126486416; 
  

成为：

  a = 1.154; 
  

而不是：

  a = 1.15000000000; 
  

如何在不使用 format（'bank' code>。


解决方案

您可以这样做：



  a = floor（a * 1000）/ 1000; 
  




I think it's a simple question. I want:

a = 1.154648126486416;

to become:

a = 1.154;

and not:

a = 1.15000000000;

How do I do that without using format('bank').

解决方案

You could do this:

a = floor(a*1000)/1000;

这篇关于我怎样才能达到一定的浮点精度？的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！