Когда я набираю это в непосредственном окне Visual Studio 2008:
? .9 - .8999999999999995
Это дает мне это как ответ:
0.00000000000000055511151231257827
В документации сказано, что двойник имеет точность 15-16 цифр, но он дает мне результат с точностью 32 цифры. Откуда берется вся эта дополнительная точность?
В ответе есть всего 15-16 цифр. Все эти ведущие нули не учитываются. На самом деле число больше похоже на 5,5511151231257827 10-16. Часть мантиссы состоит из 15-16 цифр. Показатель степени (-16) служит для сдвига десятичной точки на 16 знаков, но не меняет количество цифр в общем числе.
После того, как я получил несколько комментариев, мне стало любопытно, что происходит на самом деле. Я вставил этот номер в этот преобразователь IEEE-754. Потребовалось смелость округлить последние «27» до «30», но я не думаю, что это меняет результаты.
Преобразователь разбивает число на три двоичные части:
Знак: 0 (положительный)
Показатель степени: -51
Значимость: 1,01000000000000000000000000000000000000000000000000000000 (двоичный код для 1,2510)
Таким образом, это число равно 1,012 2-51 или 1,2510 2-51. Поскольку хранится только три значащих двоичных разряда, можно предположить, что Ларс что-то понял. Они не могут быть «случайным шумом», поскольку они одинаковы при каждом преобразовании числа.
Данные предполагают, что единственная сохраненная цифра — «5». Начальные нули взяты из экспоненты, а остальные кажущиеся случайными цифры получены из вычисления 2-51.
Convert.ToSingle("9111111.4999999990") и convert.ToSingle("9111111.4999999991"). Оба значения ближе к 9111111, чем к 9111112, но последнее округляется в большую сторону.
- person supercat; 27.10.2012
Вам следует прочитать: Что должен знать каждый программист об арифметике с плавающей запятой.
В основном это сводится к тому, что числа с плавающей запятой хранятся с конечной точностью. Вы должны сделать свое сравнение с некоторой дельтой.
if(.9 - .8999999999999995 <= 0.0001)
//close enough to be equal
Ведущие нули не являются значащими/частью точности (что касается числа с плавающей запятой -- с математической точки зрения, они значительны). Ведущие нули связаны с экспоненциальной частью внутреннего представления числа с плавающей запятой.
Часть 55511151231257827 (которая является мантисса или мантисса) состоит из 17 десятичных цифр, что достаточно близко к 15-16 цифрам.
@Lars D: То, что вы считаете правильным, правильно только в контексте вопроса. .9 - .8999999999999995 работает с числом с плавающей запятой с значащей величиной 0,625 и показателем степени -50. Взяв 0,625 * 2-50, получим 5,5511151231257827e-16. Теперь, вне контекста исходного вопроса, у нас есть число с 17 значащими цифрами, которое действительно оказывается нашим лучшим двоичным приближением 0,00000000000000005. Однако эти начальные нули по-прежнему не имеют значения с точки зрения представления числа с плавающей запятой.
? .9 - .8999999999999995
Этот процесс вычитания с 15-16 значащими цифрами дает
0.0000000000000005
Остальные цифры - просто ошибки округления. Однако, поскольку компьютер всегда хранит 15-16 значащих цифр после первой ненулевой цифры, отображаются ошибки округления, и вы получаете много конечных случайных цифр, вызванных ошибками округления. Таким образом, результат имеет 16 значащих цифр из операции вычитания плюс 16 цифр из памяти результата, что дает 32 цифры.
«Плавающая» часть «плавающей запятой» означает, что вы приближаетесь к 5,5511151231257827 * 10^(-16). Это не совсем то, как это представлено, потому что, конечно, все это делается в двоичном виде под капотом, но дело в том, что число представлено значащими цифрами плюс число, которое представляет, как далеко сдвинуть систему счисления (десятичную точку). Как всегда, википедия может дать вам более подробную информацию:
(Вторая ссылка более конкретно ориентирована на ваш конкретный случай.)
Я думаю, это потому, что в двоичной системе число 5 является периодическим, поскольку оно не делится на 2. И тогда применимо то, что сказал Марк Рушаков.
