Вопросы по теме 'ieee-754'

Почему типы с плавающей запятой в c / c ++ так странно названы?
C ++ предлагает три типа с плавающей запятой: float, double и long double. Я нечасто использую в коде числа с плавающей запятой, но когда я это делаю, меня всегда ловят предупреждения в безобидных строках вроде float PiForSquares = 4.0;...
8820 просмотров
c c++ history floating-point ieee-754
schedule 23.10.2022
Большие числа ошибочно округлены в JavaScript
Смотрите этот код: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); Когда я вижу свою консоль в Firefox 3.5, значение jsonParsed...
35455 просмотров
javascript floating-point floating-accuracy ieee-754
schedule 05.04.2023
Каковы другие значения NaN?
В документации для java.lang.Double.NaN говорится, что это Константа, содержащая значение Not-a-Number (NaN) типа double . Это эквивалентно значению, возвращаемому Double.longBitsToDouble(0x7ff8000000000000L) . Это, кажется,...
2802 просмотров
java nan floating-point ieee-754
schedule 02.07.2023
Будет ли этот C++ преобразовывать значения с плавающей запятой PDP-11 в IEEE?
Я поддерживаю программу, которая берет данные из программы PDP-11 (эмулированной!) и помещает их в современную систему на базе Windows. У нас возникли проблемы с некоторыми значениями данных, сообщаемыми как «1.#QNAN», а также «1.#QNB». Недавно...
2013 просмотров
floating-point ieee-754
schedule 27.05.2023
Получение фактического двоичного значения числового значения JavaScript?
В JavaScript для данного свойства, содержащего числовое значение, возможно ли получить фактическое двоичное значение — 64 бита, представляющих значение. переменная х = 13; Какие 64 бита хранятся в ячейке памяти, на которую указывает x? Я...
149 просмотров
javascript numbers ieee-754
schedule 26.03.2023
Преобразование MBF Double в IEEE
Я нашел тему ниже для преобразования MBF в IEEE. Преобразование MBF Single и Double в IEEE Кто-нибудь может объяснить, какова функция кода, отмеченного ниже? Тусклый знак As Byte = mbf(6) And ToByte(&H80) 'В чем причина И (&H80)?...
763 просмотров
mbf bit-manipulation ieee-754
schedule 23.07.2022
Преобразовать шестнадцатеричное число с плавающей запятой IEEE в десятичное?
ЕСЛИ у меня есть шестнадцатеричный номер с плавающей запятой IEEE 42F6E979, как мне преобразовать его в десятичный? Я считаю, что десятичное представление = 123,456001
4906 просмотров
floating-point assembly ieee-754
schedule 01.11.2023
Есть ли способ гарантировать результаты кросс-платформенных регрессионных тестов для вычисления с плавающей запятой?
Есть ли способ гарантировать результаты кросс-платформенных регрессионных тестов для вычисления с плавающей запятой? Например, разные реализации могут возвращать разные результаты при преобразовании одного и того же двоичного значения в десятичное,...
158 просмотров
floating-point erlang ieee-754
schedule 10.05.2024
Насколько кроссплатформенным является на практике обработка типов с плавающей запятой в протоколе Google Protocol Buffer?
Буферы протокола Google позволяют хранить в сообщениях числа с плавающей или двойной точностью. Я просмотрел исходный код реализации, задаваясь вопросом, как им удалось сделать это кроссплатформенным способом, и наткнулся на следующее: inline...
5339 просмотров
c++ cross-platform protocol-buffers floating-point ieee-754
schedule 27.01.2023
Java с плавающей точкой в ​​два раза - верхняя и нижняя границы?
Как большинство здесь знает, double -> float влечет за собой потерю точности. Это означает, что несколько значений типа double могут быть сопоставлены одному и тому же значению с плавающей запятой. Но как мне пойти другим путем? Учитывая нормальный...
2604 просмотров
java double precision floating-point ieee-754
schedule 10.06.2022
delphi преобразовать двоичный файл Microsoft в IEEE (8 бит)
У кого-нибудь есть код для преобразования старого MSB в ieee (реальный delphi)? В гугле я нашел только 4-битное преобразование, но не 8-битное: function MBF2IEEE(MBFVal: Single): Single; var Output: array[1..4] of byte; Value: Single...
725 просмотров
delphi ieee-754
schedule 05.04.2023
Случайная генерация программ на C с плавающей запятой
Кто-нибудь знает случайный генератор программ C, которые включают вычисления с плавающей запятой? Я ищу что-то похожее на Csmith , за исключением того, что Csmith не генерирует выражения с плавающей запятой, и что он генерирует массу других...
861 просмотров
c floating-point ieee-754 random-testing
schedule 29.04.2023
Сколько различных чисел с плавающей запятой в определенном диапазоне?
Сколько представимых чисел с плавающей запятой находится между 0.0 и 0.5 ? И сколько представимых чисел с плавающей запятой находится между 0.5 и 1.0 ? Меня больше интересует математика, лежащая в основе этого, и мне нужен ответ для floats и...
5182 просмотров
language-agnostic ieee-754
schedule 29.05.2023
максимальное число с плавающей запятой, представленное в IEEE 754
Мне интересно, является ли максимальный поплавок, представленный в IEEE 754: (1.11111111111111111111111)_b*2^[(11111111)_b-127] Здесь _b означает двоичное представление. Но это значение 3.403201383*10^38 , которое отличается от...
13746 просмотров
floating-point computer-science ieee-754
schedule 01.07.2022
Представимый результат floor () и ceil ()
Для произвольного значения 'v' типа с плавающей запятой (float / double / long double) гарантирует ли C89, что математически точный целочисленный результат floor (v) и ceil (v) является представимым значением типа 'v '? Гарантирует ли это...
589 просмотров
c floor floating-point ieee-754 ceil
schedule 18.08.2022
Что означают цифры после точки счисления в двоичной системе счисления?
У меня есть этот пример о том, как преобразовать число с основанием 10 в представление с плавающей запятой IEEE 754. Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normalized form N = 1.0110101 * 2^5 Exponent esp = 5 E = 5 + 127 = 132 (base...
3732 просмотров
c c++ floating-point ieee-754
schedule 30.04.2023
Объясните 1 - 3 * (4/3 - 1) = 2,2204e-16 в Matlab
Я пытаюсь понять числа двойной точности в Matlab . . Почему это 1 - 3 * (4/3 - 1) не равно нулю?
2135 просмотров
matlab floating-point floating-accuracy ieee-754 double-precision
schedule 03.10.2022
IEEE 754 и точность с плавающей запятой
Имеет ли значение 32- или 64-разрядный ЦП с точки зрения точности, которую обеспечивает IEEE 754? При программировании на C я имею в виду, различаются ли размеры float , double и long double для 32- или 64-разрядных процессоров.
225 просмотров
c cpu floating-point 32bit-64bit ieee-754
schedule 08.04.2022
Вычисление правильно округленного / почти правильно округленного кубического корня с плавающей запятой
Предположим, что доступны стандартные библиотечные функции с правильным округлением, такие как CRlibm . Тогда как вычислить правильно округленный кубический корень из входных данных двойной точности? Этот вопрос не является «реальной проблемой,...
1025 просмотров
algorithm floating-point ieee-754
schedule 22.07.2023
Различные значения в зависимости от установленных флагов исключения с плавающей запятой
Короткий вопрос: Как установка флага исключения _EM_INVALID на FPU может привести к другим значениям? Длинный вопрос: В нашем проекте мы отключили исключения с плавающей запятой в нашей сборке Release, но включили ZERODIVIDE, INVALID и...
291 просмотров
exception floating-point visual-c++ ieee-754 fpu
schedule 07.08.2022