Вопросы по теме 'floating-accuracy'
Большие числа ошибочно округлены в JavaScript
Смотрите этот код:
var jsonString = '{"id":714341252076979033,"type":"FUZZY"}';
var jsonParsed = JSON.parse(jsonString);
console.log(jsonString, jsonParsed);
Когда я вижу свою консоль в Firefox 3.5, значение jsonParsed...
35455 просмотров
schedule
05.04.2023
Как рассчитать значение до определенного количества знаков после запятой?
Используя стандартную библиотеку numpy или python, либо или. Как я могу взять значение с несколькими десятичными знаками и обрезать его до 4 знаков после запятой? Я только хочу сравнить числа с плавающей запятой с их первыми 4 десятичными знаками.
788 просмотров
schedule
09.11.2022
Точность с плавающей запятой C ++
Возможное дублирование: Примеры неточностей с плавающей запятой
double a = 0.3;
std::cout.precision(20);
std::cout << a << std::endl;
результат: 0.2999999999999999889
double a, b;
a = 0.3;
b = 0;
for (char i = 1;...
51245 просмотров
schedule
07.11.2022
Почему я не могу умножить поплавок?
Возможный дубликат: Работа с точностью проблемы с числами с плавающей запятой
Я был очень удивлен, почему я попытался умножить число с плавающей запятой в C (с GCC 3.2) и что это не так, как я ожидал. В качестве примера:
int main()...
15429 просмотров
schedule
08.08.2023
Деление двойного числа на целое
Я столкнулся с проблемой при делении double на int . Фрагмент кода:
double db = 10;
int fac = 100;
double res = db / fac;
Значение res равно 0.10000000000000001 вместо 0.10 .
Кто-нибудь знает, в чем причина этого? Я использую...
26290 просмотров
schedule
21.08.2022
Есть ли у Фортрана врожденные ограничения числовой точности по сравнению с другими языками?
Работая над простым упражнением по программированию, я создал цикл while (цикл DO в Фортране), который должен был завершиться, когда реальная переменная достигла точного значения.
Я заметил, что из-за используемой точности равенство никогда не...
2291 просмотров
schedule
09.08.2022
Округление в PHP
$a = ((0.1 + 0.7) * 10) == (int)((0.1 + 0.7) * 10);
PHP возвращает ложь.
Может ли кто-нибудь объяснить мне, почему это происходит? Первый возвращает 8, второй 7.
270 просмотров
schedule
04.12.2023
Проверьте, является ли число в Python рациональным для заданной точности fp
Я хотел бы знать, как хорошо проверить, является ли число x рациональным (существуют два целых числа n, m, так что x = n / m) в python.
В Mathematica это делается с помощью функции Rationalize[6.75] : 27/4
Я предполагаю, что у этого вопроса...
10715 просмотров
schedule
28.09.2022
Является ли приведение к плаванию разрушительным?
Я знаю, что в PHP мы не должны выполнять математику с числами с плавающей запятой без таких вещей, как bcmath, но является ли простой акт преобразования строки в число с плавающей запятой деструктивным?
Всегда ли такие выражения, как...
347 просмотров
schedule
09.01.2023
Почему CLng дает разные результаты?
Вот небольшая жемчужина прямо из моего VBE (MS Excel 2007 VBA):
?clng(150*0.85)
127
x = 150*0.85
?clng(x)
128
Кто-нибудь может объяснить такое поведение? ИМХО, первое выражение должно давать 128 (0,5 с округлением до ближайшего четного)...
2067 просмотров
schedule
01.03.2023
Ошибки округления десятичных дробей при делении (C #)
У меня в основном четыре числа (скажем, 100, 200, 300, 400), и мне нужно рассчитать вероятность как 100 / (100 + 200 + 300 + 400), 200 / (100 + 200 + 300 + 400), и так на.
Когда я использую десятичный тип данных для хранения этих вероятностей, они...
2759 просмотров
schedule
01.11.2022
Функция журнала c ++ использует точность с плавающей запятой
У меня возникает интересная ошибка сегмента в следующей функции, когда я даю ей число, очень близкое к 1.0. В частности, когда число будет округлено до 1,0 с точностью FLOATING POINT .
double get_random_element(double random_number)
{
if...
2568 просмотров
schedule
13.12.2022
Проблема преобразования в ANSI C
Возможные дубликаты: Примеры неточности с плавающей запятой Не работает ли математика JavaScript?
Мне нужно преобразовать некоторые данные из txt файла в двойное значение, и я использую для этого эту функцию: atof. Проблема в том,...
340 просмотров
schedule
04.05.2022
Безопасно ли использовать поплавки в хэшах YAML с Ruby?
Если у меня есть файл YAML, например
---
2.1: my product version
без каких-либо кавычек Ruby будет рассматривать 2.1 как число с плавающей запятой (по крайней мере, в Syck - я не уверен насчет Psych).
Существуют ли какие-либо риски при...
224 просмотров
schedule
22.04.2022
Math pow в Java и C # возвращают немного разные результаты?
Я переношу программу с С# на java. Я столкнулся с тем, что
Ява
Math.pow(0.392156862745098,1./3.) = 0.7319587495200227
C#
Math.Pow( 0.392156862745098, 1.0 / 3.0) =0.73195874952002271
эта последняя цифра приводит к значительным...
2020 просмотров
schedule
11.12.2022
Исчерпание точности с плавающей запятой в (казалось бы) бесконечном цикле
У меня есть следующий скрипт Python:
x = 300000000.0
while (x < x + x):
x = x + x
print "exec: " + str(x)
print "terminated" + str(x)
Этот, казалось бы, бесконечный цикл завершается довольно быстро, если x — число с плавающей...
360 просмотров
schedule
26.09.2022
Функция postgresql округления наполовину вниз
функция round(numeric,integer) в PostgreSQL округляет только в большую сторону:
round(cast (41.0255 as numeric),3) ==> 41.026
Так как нам нужна круглая функция, которая возвращает 41.025 и (что удивительно) такой функции нет в PostgreSQL...
11095 просмотров
schedule
21.06.2023
Деление с помощью предотвращения нуля: проверка выражения делителя не приводит к нулю по сравнению с проверкой того, что делитель не равен нулю?
Возможно ли деление на ноль в следующем случае из-за ошибки с плавающей запятой при вычитании?
float x, y, z;
...
if (y != 1.0)
z = x / (y - 1.0);
Другими словами, безопаснее ли следующее?
float divisor = y - 1.0;
if (divisor != 0.0)...
3686 просмотров
schedule
05.12.2022
неточность числа с плавающей запятой при итерации
У меня есть функция, которая вычисляет точку в трехмерном пространстве на основе значения в диапазоне [0, 1] . Проблема, с которой я столкнулся, заключается в том, что двоичное число с плавающей запятой не может точно представлять 1....
240 просмотров
schedule
05.05.2023
Разбор компилятором точных чисел с плавающей запятой
Как мы знаем, числа с плавающей запятой IEEE могут хранить точные представления всех целых чисел и целых чисел, кратных обратным степеням двойки, таким как 1/2 или 3/4, при условии, что числа остаются в пределах диапазона чисел с плавающей запятой....
703 просмотров
schedule
07.09.2022
