Вопросы по теме 'rounding'
Встроенный алгоритм .Net для округления значения до ближайшего интервала 10
Как в С# округлить любое значение до 10 интервалов? Например, если у меня 11, я хочу, чтобы он вернул 10, если у меня 136, то я хочу, чтобы он вернул 140.
Я легко могу сделать это вручную
return ((int)(number / 10)) * 10;
Но я ищу...
77352 просмотров
schedule
16.10.2022
Округление целочисленного деления с минусами в C ++
Предположим, что a и b имеют тип int , а b ненулевое значение. Рассмотрим результат выполнения a/b в следующих случаях:
a и b неотрицательны.
a и b отрицательны.
Ровно одно из них отрицательное.
В случае 1 результат...
20454 просмотров
schedule
18.10.2022
Почему порядок влияет на округление при добавлении нескольких двойников в С#
Рассмотрим следующий код C#:
double result1 = 1.0 + 1.1 + 1.2;
double result2 = 1.2 + 1.0 + 1.1;
if (result1 == result2)
{
...
}
результат1 всегда должен быть равен результату2, верно? Дело в том, что это не так. результат1 равен 3,3,...
717 просмотров
schedule
11.01.2023
Почему round() и ceil() не возвращают целое число?
Время от времени я обнаруживаю, что округляю некоторые числа, и мне всегда приходится приводить результат к целому числу:
int rounded = (int) floor(value);
Почему все функции округления ( ceil() , floor() ) возвращают число с плавающей...
22160 просмотров
schedule
18.11.2022
Явное округление чисел до более чем 7 знаков после запятой в C++
Вот мой код:
double round( char* strNumber, int decPlace);
int main()
{
int decimal;
char initialNumber[256];
cout << "Enter decimal and number " << endl;
cin >> decimal;
cin >> initialNumber;...
2144 просмотров
schedule
06.04.2023
Последовательное округление чисел с плавающей запятой в Ruby
Я понимаю, что из-за неточного представления чисел с плавающей запятой следующий код «кажется» непоследовательным.
"%.1f" % 1.14 # => 1.1
"%.1f" % 1.15 # => 1.1
"%.1f" % 1.16 # => 1.2
"%.0f" % 1.4 # => 1
"%.0f" % 1.5 # => 2
"%.0f" %...
1527 просмотров
schedule
31.08.2022
Как лучше всего подойти к округлению десятичных знаков в С#
У меня десятичное значение 18,8. Значения, хранящиеся в этой переменной, могут быть любого типа. Например, это может быть 1.0000000 или 1.00004000 или 5.00000008. Я хотел бы написать метод, чтобы я мог передать ему десятичную дробь и получить...
1684 просмотров
schedule
19.07.2023
Округление двойных значений в C#
Мне нужен метод округления для двойных значений в С#. Он должен иметь возможность округлять двойное значение до любого значения точности округления. Мой код под рукой выглядит так:
public static double RoundI(double number, double...
51495 просмотров
schedule
26.04.2022
Стратегии десятичного округления в корпоративных приложениях
Ну, мне интересно, что такое округление десятичных знаков и их сохранение в БД.
Проблема такая:
Допустим, у нас есть заказчик и счет-фактура.
Счет-фактура имеет общую стоимость 100 495 долларов США (из-за некоторого процента скидки, который...
722 просмотров
schedule
09.01.2023
Ruby: округлить число до ближайшего числа на основе произвольного списка чисел
Скажем, у меня есть массив целых чисел:
arr = [0,5,7,8,11,16]
и у меня есть другое целое число:
n = 6
Мне нужна функция, которая округляет до ближайшего числа из массива:
foo(n) #=> 5
Как видите, числа не имеют...
2034 просмотров
schedule
13.01.2023
Округлить деление до целого числа в большую сторону
есть ли простой способ округлить результат деления до целого числа?
Я хотел бы иметь это:
18/20 -> 1
19/20 -> 1
20/20 -> 1
21/20 -> 2
22/20 -> 2
23/20 -> 2
... и так далее ...
38/20 -> 2
39/20 -> 2
40/20 ->...
1274 просмотров
schedule
19.05.2022
Использование значения динамической точности в number_to_currency на основе десятичного значения
В нашем приложении мы используем number_to_currency(value, :precision => 2) . Однако теперь у нас есть требование, согласно которому значение может отображаться с точностью до трех или более знаков после запятой, например.
0.01 => "0.01"...
896 просмотров
schedule
21.07.2023
Получить только две десятичные точки в типе данных money в SQL Server
SELECT ROUND(123.4567, 2)` gives me `123.4600`
Но мне нужно 123.46 .
Тип данных поля - деньги.
Решение:
<%# DataBinder.Eval(Container.DataItem, "FieldName","{0:0.00}") %>
49411 просмотров
schedule
25.07.2023
Есть ли функция округления C, такая как функция округления MATLAB?
Мне нужна функция округления C, которая округляет числа, например, функция округления MATLAB. Есть ли один? Если вы не знаете, как работает круглая функция MATLAB, см. эту ссылку:
Функция раунда MATLAB
Я подумал, что мог бы просто написать...
3179 просмотров
schedule
26.03.2023
Math.Round для десятичной дроби
Я запускаю этот код:
decimal d = 1.45M;
Console.WriteLine((System.Math.Round(d,0,MidpointRounding.AwayFromZero).ToString()));
Здесь я ожидаю, что на выходе будет 2, потому что 1,45 при округлении до 1-го десятичного знака будет 1,5, что при...
6488 просмотров
schedule
26.07.2023
Как сохранить число с плавающей запятой в ruby
Поэтому я пробую код для преобразования чисел в строки. Однако я заметил, что в некоторых случаях он не сохраняет последние два десятичных знака. Например, я набираю 1.01 и 1.04 для добавления и получаю обратно 2.04. Если я наберу только 1,05, он...
570 просмотров
schedule
14.05.2023
Двойное значение для округления в Java
У меня есть двойное значение = 1.068879335 , я хочу округлить его только с двумя десятичными значениями, такими как 1,07.
я пробовал вот так
DecimalFormat df=new DecimalFormat("0.00");
String formate = df.format(value);
double finalValue =...
179828 просмотров
schedule
11.03.2023
Есть ли способ усечь числа в научной записи в Javascript?
Как вы все знаете, поскольку это одна из наиболее часто задаваемых тем в SO, у меня возникают проблемы с ошибками округления (на самом деле это не ошибки, мне хорошо известно). Вместо того, чтобы объяснять свою точку зрения, я приведу пример того,...
2700 просмотров
schedule
22.04.2022
Ошибка округления PHP
Я использую PHP 5.2.13 на своем Linux-сервере. Я получаю странную ошибку при округлении чисел. Это мой тестовый пример:
<?php
echo " " . round(1.505, 2) . "\n";
echo " " . round(11.505, 2) . "\n";
echo " " . round(111.505,...
11730 просмотров
schedule
06.09.2022
Почему CLng дает разные результаты?
Вот небольшая жемчужина прямо из моего VBE (MS Excel 2007 VBA):
?clng(150*0.85)
127
x = 150*0.85
?clng(x)
128
Кто-нибудь может объяснить такое поведение? ИМХО, первое выражение должно давать 128 (0,5 с округлением до ближайшего четного)...
2067 просмотров
schedule
01.03.2023
