如何在 Ruby 中将浮点数四舍五入到指定的有效数字位数?

问题描述 投票:0回答:8

如果在 Ruby 中拥有相当于 R 的signif 函数就太好了。

例如:

>> (11.11).signif(1)
10
>> (22.22).signif(2)
22
>> (3.333).signif(2)
3.3
>> (4.4).signif(3)
4.4 # It's usually 4.40 but that's OK. R does not print the trailing 0's
    # because it returns the float data type. For Ruby we want the same.
>> (5.55).signif(2)
5.6
ruby floating-point significant-digits
8个回答
16
投票

可能有更好的方法,但这似乎工作正常:

class Float
  def signif(signs)
    Float("%.#{signs}g" % self)
  end
end

(1.123).signif(2)                    # => 1.1
(11.23).signif(2)                    # => 11.0
(11.23).signif(1)                    # => 10.0

8
投票

这是一个不使用字符串或其他库的实现。

class Float
  def signif(digits)
    return 0 if self.zero?
    self.round(-(Math.log10(self).ceil - digits))
  end
end

3
投票

我在 Float 中没有看到类似的东西。 Float 主要是原生

double
类型的包装,考虑到常见的二进制/十进制问题,我对 Float 不允许操作有效数字并不感到惊讶。

但是,标准库中的 BigDecimal 确实理解有效数字,但同样,我没有看到任何允许您直接更改 BigDecimal 中的有效数字的内容:您可以要求它,但不能更改它。但是,您可以通过使用

mult
add
方法的无操作版本来解决这个问题:

require 'bigdecimal'
a = BigDecimal.new('11.2384')
a.mult(1, 2) # the result is 0.11E2   (i.e. 11)
a.add(0, 4)  # the result is 0.1124E2 (i.e. 11.24)

这些方法的第二个参数:

如果指定且小于结果的有效位数,则结果将根据

BigDecimal.mode
四舍五入到该位数。

使用 BigDecimal 会更慢,但如果您需要细粒度控制或需要避免常见的浮点问题,它可能是您唯一的选择。


3
投票

之前的一些答案和评论已经提到了这个解决方案,但这对我有用:

# takes in a float value and returns another float value rounded to 
# given significant figures.    
def round_to_sig_figs(val, sig_figs)
  BigDecimal.new(val, sig_figs).to_f
end

3
投票

您可能正在寻找 Ruby 的 Decimal

然后你可以写:

require 'decimal/shortcut'
num = 1.23541764
D.context.precision = 2
num_with_2_significant_digits = +D(num.to_s) #  => Decimal('1.2')
num_with_2_significant_digits.to_f #  => 1.2000000000000002

或者,如果您更喜欢使用相同的语法,请将其作为函数添加到 Float 类中,如下所示:

class Float
  def signif num_digits
    require 'decimal/shortcut'
    D.context.precision = num_digits
    (+D(self.to_s)).to_f
  end
end

用法将是相同的,即

 (1.23333).signif 3
 # => 1.23

要使用它,请安装 gem

gem install ruby-decimal

0
投票

@Blou91 的答案已经差不多了,但它返回一个字符串,而不是一个浮点数。以下对我有用:

(sprintf "%.2f", 1.23456).to_f

所以作为一个函数,

def round(val, sig_figs)
  (sprintf "%.#{sig_figs}f", val).to_f
end

0
投票

我认为你可以使用内置的

to_d
方法来做到这一点(https://rubyapi.org/3.3/o/float#method-i-to_d)。它将其转换为十进制,但您可以转换回浮点数:

require 'bigdecimal'
require 'bigdecimal/util'

11.11.to_d(1).to_f # 10.0
22.22.to_d(2).to_f # 22.0
3.333.to_d(2).to_f # 3.3
4.4.to_d(3).to_f # 4.4
5.55.to_d(2).to_f # 5.6

-2
投票

如果你想打印尾随零,请使用 sprintf

2.0.0-p353 :001 > sprintf "%.3f", 500
 => "500.000"
2.0.0-p353 :002 > sprintf "%.4f", 500
 => "500.0000"
2.0.0-p353 :003 >
© www.soinside.com 2019 - 2024. All rights reserved.