Вот проблема: в игру Totals может играть любое количество людей. Он начинается с суммы 100, и каждый игрок по очереди делает целочисленное смещение от -20 до 20 к этой сумме. Победителем становится игрок, чья корректировка делает общую сумму равной...

Было утверждено , что (даже учет для порядка следования байтов) IEEE754 с плавающей запятой не гарантирует возможность обмена между платформами. So: Почему, теоретически, IEEE с плавающей запятой не взаимозаменяем между платформами?...

У меня возникла проблема при преобразовании значений Single в значения Double. Одиночные числа, предоставляемые BitStream, представляют собой простые десятичные числа от 2 до 6, во многих случаях такие простые, как 0,4, 0,94, 0,6 и т. д. мое...

Просто так, просто когда я ставлю: float f; if(f%1){ //do something // Он возвращает ошибку, есть ли способ сделать это по модулю для типов с плавающей запятой или мне нужно выполнить преобразование? Я использую xCode IDE и язык Objective-C.

Предположим, у вас есть число float64_t с произвольным значением, и вы хотите выяснить, можно ли безопасно преобразовать это число в float32_t с ограничением, что результирующая ошибка округления не должна превышать заданный эпсилон. Возможная...

Допустим, у меня есть два арифметических типа: целочисленный I и тип с плавающей запятой F . Я также предполагаю, что std::numeric_limits<I>::max() меньше std::numeric_limits<F>::max() . Теперь предположим, что у меня есть...

Как в OCaml я могу анализировать константы с плавающей запятой в стиле C99 (либо как литералы, либо внутри строк) в шестнадцатеричном виде, например 0x1.b000000000000p4 ? Кажется, что они не являются допустимыми литералами: # let c =...

Я хочу отобразить число с плавающей запятой со всей целой частью и до двух знаков после запятой для дробной части без конечных нулей. http://play.golang.org/p/mAdQl6erWX : // Desired output: // "1.9" // "10.9" // "100.9" fmt.Println("2g:")...

У меня есть столбец географии под названием «Местоположение». Мне нужно ВЫБРАТЬ Location.Lat и Location.Long как один результат VARCHAR. Используя следующее, я теряю точность: Запрос: SELECT CONVERT(VARCHAR(MAX), Location.Lat) + ' ' +...

Я ищу алгоритм, который принимает 64-битное число с плавающей запятой и выводит показатель степени и коэффициент, чтобы ввод мог быть представлен в форме float64 input = coefficient * 10 ^ exponent . Предположительно, это «нетривиально», и многие...

Итак, я пытаюсь преобразовать 46bfc000 (число с плавающей запятой в одинарной точности IEEE) в десятичное значение. Я могу получить приблизительное значение, но не точное значение. Итак, вот моя работа для моей приблизительной стоимости: 1)...

При использовании символьного выражения возникает вопрос, как преобразовать символьное значение в дискретное значение и получить значение z. x=2 syms x y=x^2 z=x+y

Вот вопрос с ответами на "Консистентность с плавающей запятой кросс-платформы" , но он говорит исключительно о Согласованность во время выполнения (с плавающей запятой IEEE). Меня интересует согласованность во время компиляции , а именно:...

Учитывая следующие значения с плавающей запятой: n00.0, n0.0, n.0, 0.n, 0.0n, 0.00n, 0.000n где n может быть 1, 2 или 5, какой самый умный и быстрый способ извлечь соответствующие целочисленные значения, которые будут использоваться в качестве...

Я нахожусь в процессе создания программы сборки, которая вычисляет корни квадратного уравнения. Один корень смог найти, но форматирование выключено. Вот код: INCLUDE Irvine32.inc INCLUDE macros.inc .data...