Я провел тест на своем графическом калькуляторе, чтобы проверить наличие ошибки с плавающей запятой, и после сорока восьми часов полной и абсолютной случайности калькулятор не потерял ни одной цифры точности.
Как TI справляется с этим?
Я провел тест на своем графическом калькуляторе, чтобы проверить наличие ошибки с плавающей запятой, и после сорока восьми часов полной и абсолютной случайности калькулятор не потерял ни одной цифры точности.
Как TI справляется с этим?
TI-89 и TI-92 избегают ошибок, используя символические вычисления для сохранения значений точно эм>.
Реальные вычисления с плавающей запятой (режим «приблизительно» в 89/92) действуют с ошибками. Их просто труднее заметить, потому что калькуляторы TI отображают меньше цифр, чем хранят. Кроме того, они используют десятичные числа вместо двоичных.
Например, если вы введете выражение 1/3*3-1
на TI-89 в «приблизительном» режиме, вы получите ответ ⁻1.ᴇ⁻14
вместо 0
, который вы получите в точном режиме. Внутренний расчет производится следующим образом:
1/3
дает 0.33333333333333
, округленное до 14 значащих цифр.0.99999999999999
. Из-за округления это отображается как 1.
-0.00000000000001
или -1e-14.