spec/ruby/library/bigdecimal/limit_spec.rb


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55

require_relative '../../spec_helper'
require_relative 'fixtures/classes'
require 'bigdecimal'

describe "BigDecimal.limit" do
  it "returns the value before set if the passed argument is nil or is not specified" do
    old = BigDecimal.limit
    BigDecimal.limit.should == 0
    BigDecimal.limit(10).should == 0
    BigDecimal.limit.should == 10
    BigDecimal.limit(old)
  end

  it "uses the global limit if no precision is specified" do
    BigDecimalSpecs.with_limit(0) do
      (BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.888')
      (BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.888')
      (BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('2.664')
      (BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.296')
    end

    BigDecimalSpecs.with_limit(1) do
      (BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.9')
      (BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.9')
      (BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('3')
      (BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.3')
    end

    BigDecimalSpecs.with_limit(2) do
      (BigDecimal('0.888') + BigDecimal('0')).should == BigDecimal('0.89')
      (BigDecimal('0.888') - BigDecimal('0')).should == BigDecimal('0.89')
      (BigDecimal('0.888') * BigDecimal('3')).should == BigDecimal('2.7')
      (BigDecimal('0.888') / BigDecimal('3')).should == BigDecimal('0.30')
    end
  end

  it "picks the specified precision over global limit" do
    BigDecimalSpecs.with_limit(3) do
      BigDecimal('0.888').add(BigDecimal('0'), 2).should == BigDecimal('0.89')
      BigDecimal('0.888').sub(BigDecimal('0'), 2).should == BigDecimal('0.89')
      BigDecimal('0.888').mult(BigDecimal('3'), 2).should == BigDecimal('2.7')
      BigDecimal('0.888').div(BigDecimal('3'), 2).should == BigDecimal('0.30')
    end
  end

  it "picks the global precision when limit 0 specified" do
    BigDecimalSpecs.with_limit(3) do
      BigDecimal('0.8888').add(BigDecimal('0'), 0).should == BigDecimal('0.889')
      BigDecimal('0.8888').sub(BigDecimal('0'), 0).should == BigDecimal('0.889')
      BigDecimal('0.888').mult(BigDecimal('3'), 0).should == BigDecimal('2.66')
      BigDecimal('0.8888').div(BigDecimal('3'), 0).should == BigDecimal('0.296')
    end
  end

end