Float vs Decimal в ActiveRecord

Я помню, как мой профессор CompSci говорил, что никогда не следует использовать числа с плавающей запятой для валюты.

Причина в том, что спецификация IEEE определяет числа с плавающей запятой в двоичном формате. По сути, он хранит знак, дробь и экспоненту для представления числа с плавающей запятой. Это похоже на научное обозначение двоичного кода (что-то вроде +1.43*10^2). Из-за этого невозможно точно хранить дроби и десятичные дроби во Float.

Вот почему существует десятичный формат. Если вы сделаете это:

irb:001:0> "%.47f" % (1.0/10)
=> "0.10000000000000000555111512312578270211815834045" # not "0.1"!

тогда как если вы просто сделаете

irb:002:0> (1.0/10).to_s
=> "0.1" # the interprer rounds the number for you

Поэтому, если вы имеете дело с мелкими дробями, такими как сложение процентов или, может быть, даже с геолокацией, я настоятельно рекомендую десятичный формат, поскольку в десятичном формате 1.0/10 равно точно 0,1.

Однако следует отметить, что, несмотря на меньшую точность, числа с плавающей запятой обрабатываются быстрее. Вот эталон:

require "benchmark" 
require "bigdecimal" 

d = BigDecimal.new(3) 
f = Float(3)

time_decimal = Benchmark.measure{ (1..10000000).each { |i| d * d } } 
time_float = Benchmark.measure{ (1..10000000).each { |i| f * f } }

puts time_decimal 
#=> 6.770960 seconds 
puts time_float 
#=> 0.988070 seconds

Отвечать

Используйте float, если вам не нужна точность. Например, для некоторых научных симуляций и расчетов требуется всего до 3 или 4 значащих цифр. Это полезно для компромисса между точностью и скоростью. Поскольку им нужна не столько точность, сколько скорость, они использовали бы float.

Используйте десятичное, если вы имеете дело с числами, которые должны быть точными и суммировать до правильного числа (например, сложные проценты и вещи, связанные с деньгами). Помните: если вам нужна точность, вы всегда должны использовать десятичную дробь.

В Rails 3.2.18: decimal превращается в: integer при использовании SQLServer, но он отлично работает в SQLite. Переход на: float решил эту проблему для нас.

Извлеченный урок: «Всегда используйте однородные базы данных для разработки и развертывания!»

В Rails 4.1.0 я столкнулся с проблемой сохранения широты и долготы в базе данных MySql. Он не может сохранить большое дробное число с типом данных с плавающей запятой. И я меняю тип данных на десятичный и работаю на меня.

  def change
    change_column :cities, :latitude, :decimal, :precision => 15, :scale => 13
    change_column :cities, :longitude, :decimal, :precision => 15, :scale => 13
  end