Вопросы по теме 'double-precision'
Что я должен использовать: double или float?
Каковы преимущества и недостатки использования одного вместо другого в C ++?
97859 просмотров
schedule
08.12.2022
Есть ли у Фортрана врожденные ограничения числовой точности по сравнению с другими языками?
Работая над простым упражнением по программированию, я создал цикл while (цикл DO в Фортране), который должен был завершиться, когда реальная переменная достигла точного значения.
Я заметил, что из-за используемой точности равенство никогда не...
2291 просмотров
schedule
09.08.2022
NSDate и проблема двойной точности
Вот код
NSDate* d = [NSDate dateWithTimeIntervalSince1970:32.4560];
double ti = [d timeIntervalSince1970];
NSLog(@"Interval: %f %f %f %f",ti,32.4560,ti*1000.0,32.4560*1000.0);
вывод
Интервал: 32.456000 32.456000 32455.999970...
2907 просмотров
schedule
04.02.2024
С++ двойная точность и округление
У меня есть следующая проблема:
double a = 6.005; double b = 5.995;
Я хочу установить точность удвоения 2 цифры после точки, например
double c = a+b;// I would like to get 11.99 not 12.00 .
Как я могу это сделать?
7425 просмотров
schedule
10.04.2023
Имитация разрыва двойника в C#
Я работаю на 32-битной машине и могу подтвердить, что длинные значения могут порваться, используя следующий фрагмент кода, который работает очень быстро.
static void TestTearingLong()
{
System.Threading.Thread A = new...
842 просмотров
schedule
26.04.2022
Проблемы точности Java BigDecimal
Я знаю, что следующее поведение - старая проблема, но я все еще не понимаю.
System.out.println(0.1 + 0.1 + 0.1);
Или даже если я использую BigDecimal
System.out.println(new BigDecimal(0.1).doubleValue()
+ new...
25219 просмотров
schedule
19.02.2024
Точность для Double.parseDouble() и String.valueOf()
Верно ли следующее утверждение для любого double (примитив Java с двойной точностью IEEE-754), кроме NaN :
Double.parseDouble(String.valueOf(d)) == d
Иными словами, всегда ли анализ сериализованного (с использованием String.valueOf())...
2124 просмотров
schedule
01.12.2023
MATLAB vpa() не вычисляет число с переменной точкой для выражения с показателем степени?
Попытка использовать vpa() для вычисления числа переменных точек для рационального выражения в показателе степени:
syms x;
ans1 = x^(12345/67890)
ans2 = vpa(x^(12345/67890),3)
ans2_5 = vpa((12345/67890),3)
ans3 = vpa(x*(12345/67890),3)...
3708 просмотров
schedule
23.08.2022
Переключение между плавающей и двойной точностью во время компиляции
На что мне смотреть, если я хочу переключаться между плавающей и двойной точностью во время компиляции. Это похоже на то, что если пользователь хочет, чтобы все было с плавающей запятой, а не с двойной точностью, как я могу сохранить эту гибкость?...
3126 просмотров
schedule
17.06.2022
Объясните 1 - 3 * (4/3 - 1) = 2,2204e-16 в Matlab
Я пытаюсь понять числа двойной точности в Matlab . . Почему это 1 - 3 * (4/3 - 1) не равно нулю?
2135 просмотров
schedule
03.10.2022
Численная точность реализации для выпуклого четырехугольника
Я реализовал метод вычисления площади выпуклого четырехугольника в R3. Метод работает нормально, но у меня проблемы с числовой точностью в 8-м десятичном знаке. Взгляните на метод:
internal static double GetTriangleArea(double ax, double ay,...
75 просмотров
schedule
19.06.2022
Странный результат умножения
В моем коде у меня есть это умножение в коде C++ со всеми типами переменных как double[]
f1[0] = (f1_rot[0] * xu[0]) + (f1_rot[1] * yu[0]);
f1[1] = (f1_rot[0] * xu[1]) + (f1_rot[1] * yu[1]);
f1[2] = (f1_rot[0] * xu[2]) + (f1_rot[1] * yu[2]);...
2248 просмотров
schedule
03.10.2022
Расчет Scala Double epsilon в функциональном стиле
Предлагаемый подход к вычислению машинного эпсилон с использованием Java выглядит следующим образом:
private static float calculateMachineEpsilonFloat() {
float machEps = 1.0f;
do
machEps /= 2.0f;
while ((float) (1.0 +...
777 просмотров
schedule
06.02.2023
Сравнение двойных значений на равенство в Java.
Я хотел бы получить несколько советов от людей, которые имеют больший опыт работы с примитивным double равенством в Java. Использование d1 == d2 для двух двойных d1 и d2 недостаточно из-за возможных ошибок округления.
Мои вопросы:...
39583 просмотров
schedule
10.01.2024
Как я могу доверять приведению от двойного к целому?
Я работал над простым кодом для создания гистограмм и нашел следующий код:
double value = 1.2;
double bucketSize = 0.4;
double bucketId = value / bucketSize;
std::cout << "bucketId as double: " << bucketId << std::endl;...
2269 просмотров
schedule
07.04.2022
Как вы используете double в OpenCL на MacPro?
У меня есть Mac Pro (конец 2013 г.), и я хочу посчитать в двойном размере с помощью OpenCL. Когда я использовал Mavericks, в CL_DEVICE_EXTENSIONS для моего графического процессора FirePro было указано только cl_APPLE_fp64_basic_ops , поэтому я не...
471 просмотров
schedule
17.04.2023
Арифметическая ошибка с двойным c++
Я заметил небольшую ошибку в некоторых арифметических вычислениях с использованием double. Это действительно странно, всегда есть небольшая ошибка и/или лишняя значащая цифра.
Сначала я использую atof для преобразования числа, состоящего из двух...
2426 просмотров
schedule
30.11.2022
Double и float могут иметь одинаковую точность?
Мне нужно реализовать программу, которая вычисляет машинный эпсилон для float и double . Я написал эти функции:
int feps(){
//machine epsilon for float
float tmp=1;
int d=0;
while(1+(tmp=tmp/2)>1.0f)d++;
return d;
}
int...
271 просмотров
schedule
23.06.2023
Как получить мантиссу и показатель степени двойного числа в степени 10?
Я видел функцию double frexp (double x, int* exp); , которая разбивает двойное значение на мантисса (m) и показатель степени (e) со степенью двойки ( 1.m * 2^e ). Есть ли аналогичная функция, которая возвращает значение в степени 10? Что-то вроде...
2250 просмотров
schedule
13.01.2023
Java DecimalFormat теряет точность при двойном форматировании
Когда я выполняю приведенный ниже код:
public class Test {
public static void main(String args[]){
DecimalFormat format = new DecimalFormat();
Double value = new Double(-1350825904190559999913623552.00);
StringBuffer...
1123 просмотров
schedule
09.02.2023
