Описание тега ieee-754
IEEE 754 является наиболее распространенным и широко используемым стандартом с плавающей запятой, в частности, двоичный 32 с одинарной точностью, также известный как форматы с плавающей запятой, и двоичный 64 с двойной точностью, или двойной формат.
1
ответ
Хорошо ли задан режим округления больших литералов с плавающей точкой?
Рассмотрим следующий код: System.out.printf("%f%n", 123456796f); Это печатает 123456800 в моей системе, таким образом, значение было округлено до 4. Является ли округление обязательным в этой ситуации, или же компилятор решил также округлить до 4, ч…
10 ноя '14 в 14:49
2
ответа
Разница между двойным значением в Oracle и Java (IEEE 754)
BINARY_DOUBLE в Oracle и Double в Java используют стандарт IEEE 754. Но есть разница в их точности. Например значение: 456.67d Oracle: declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.99999999999999999999EEEE')); end; …
21 апр '17 в 10:04
1
ответ
Я теряю 2 силы в умножении IEEE754
Я изучаю IEE754, и я немного сбит с толку этими строками кода double a = 0.2; double b = 100.0; double c = a * b; Я знаю, что 0.2 не может быть идеально представлено степенями 2, а 100 может, но я получаю идеальный результат 20 как результат в c. Ви…
01 дек '16 в 19:54
1
ответ
Плавает в визуальной студии
Рассмотрим систему с плавающей запятой одинарной точности, соответствующую стандарту IEEE 754. В визуальной студии переключатель FP был установлен в строгое положение. struct FP { unsigned char a : 8; unsigned char b : 8; unsigned char c : 8; unsign…
24 сен '18 в 15:01
3
ответа
Почему экспоненциальная запись с десятичными значениями терпит неудачу?
Условно 1e3 средства 10**3, >>> 1e3 1000.0 >>> 10**3 1000 Подобный случай exp(3) по сравнению с e**3, >>> exp(3) 20.085536923187668 >>> e**3 20.085536923187664 Однако теперь обратите внимание, является ли показате…
11 май '13 в 04:42
3
ответа
Как проверить, изменится ли числовое значение?
Я выполняю некоторые преобразования типов данных, где я должен представлять uint, long, ulong а также decimal как IEEE 754 двойные значения с плавающей запятой. Я хочу быть в состоянии обнаружить, если тип данных IEEE 754 не может содержать значение…
21 окт '09 в 15:28
5
ответов
Сигнализация IEEE с плавающей точкой NaN (sNaN) в Хаскеле
Есть ли способ определить сигнальную NaN в Haskell? Я нашел два подхода к работе с NaN: 1) использовать 0/0, что дает вполне нан 2) пакет Data.Number.Transfinite, который также не имеет сигнальных NaN. PS Есть ли способ поставить Word64 по крупицам …
24 янв '14 в 23:07
1
ответ
Диапазоны десятичного преобразования в спецификации IEEE 754 (двоичная арифметика с плавающей точкой)
В таблице 2 в разделе 5.6 в нижней части страницы 11 спецификации IEEE 754 перечислены диапазоны десятичных значений, для которых необходимо выполнить десятичное преобразование в двоичное с плавающей запятой. Диапазон показателей не имеет смысла для…
18 авг '10 в 00:57
4
ответа
Были ли попытки представить числа с числами без знака или со знаком?
Интересно, есть ли исследования и попытки разработки типа типа float ( IEEE754), где десятичная часть и целая часть обрабатываются int или unsigned int каждый, или любой другой вид дизайна, который может привести к тому, что с плавающей запятой реал…
28 ноя '13 в 18:23
4
ответа
Проблема с добавлением значений Float в Java
У меня есть два значения 5042034.0 1425837.2 пока я добавляю как ниже float abc = (float) (5042034.0 + 1425837.2); Я ожидаю результата 6467871.2 Но я получаю 6467871.0 Как я мог получить 6467871.2 с помощью поплавка? Я пробовал с float c = (float) (…
27 июл '17 в 11:55
1
ответ
Могут ли числа с плавающей точкой IEEE 754 представлять одно и то же значение с множеством битов?
Могут ли числа с плавающей точкой IEEE 754 представлять одно и то же значение с множеством битов? Например:128 опыта 3 == 1024,0256 exp 2 == 1024.01024 exp 0 == 1024.0 Считает ли стандарт IEEE 754 различные битовые комбинации равными по значению при…
05 дек '15 в 23:53
3
ответа
Положительные / отрицательные постоянные в Фортране
Как я мог получить константы (или parameters, я полагаю) это отрицательная и положительная бесконечность в Fortran 2008? Я попробовал следующий код: program inf use, intrinsic :: ieee_arithmetic real(8), parameter :: inf_pos = ieee_value(0d0, ieee_p…
30 май '18 в 18:11
5
ответов
Объяснение Леймана, почему JavaScript имеет странную плавающую математику - стандарт IEEE 754
Я никогда не понимаю точно, что происходит с JavaScript, когда я выполняю математические операции над числами с плавающей запятой. Я боялся использовать десятичные дроби до такой степени, что просто избегаю их, когда это возможно. Однако, если бы я …
25 июл '13 в 04:38
1
ответ
Какая функция rem_pio2f() используется в GCC?
Изучение скомпилированного кода sinf() в нашей реализации GCC я вижу, что он вызывает встроенную функцию ___ieee754_rem_pio2f, Я попытался найти подсказку о том, что это за функция, но все, что я нашел, это посты, относящиеся к ошибке с rem_pio2f (н…
24 мар '12 в 01:13
3
ответа
Странные выходы Java - запуск виртуальной машины на Mac lion с Eclipse
У кого-нибудь есть идея, где моя проблема вывода? Я написал программу на Java и запускаю ее на ВМ на Mac lion с помощью Eclipse. Вместо получения 1.41, Я получил 1.4100000000000001 на моей машине. Example: Enter the number of quarter: 4 Enter the nu…
03 окт '13 в 20:25
2
ответа
Расчет среднего гармонического и точность с плавающей точкой
Я внедряю пифагорейские средние в PHP, арифметические и геометрические средние несложны, но мне действительно трудно придумать надежную реализацию гармонического среднего . Это определение WolframAlpha: И это эквивалентная реализация в PHP: function…
04 май '12 в 03:59
1
ответ
IEEE 64 и 32-битная проверка с плавающей запятой в OCaml
У меня есть строка, соответствующая следующему регулярному выражению \-?[0-9]*\.[0-9]+ который предположительно представляет число IEEE с плавающей запятой. Это может быть одинарная или двойная точность, и я знаю тип заранее. Мне нужно проверить, мо…
27 июл '17 в 22:59
2
ответа
Конвертировать 64-битные шестнадцатеричные в плавающие в PHP
Я пытаюсь преобразовать 64-битное шестнадцатеричное число в число с плавающей точкой в PHP. 40F82C719999999A Если я запускаю это на странице преобразования IEEE-754 с плавающей запятой по адресу http://babbage.cs.qc.cuny.edu/IEEE-754.old/64bit.htm…
03 дек '15 в 13:23
1
ответ
Как с плавающей точкой преобразовать в целое число с усечением?
int a = atof("4.60") * 100; int b = atof("6.60") * 100; printf("a:%d",a); //<==== here print a:459 printf("b:%d",b); //<==== here print b:660 В IEEE 754 4,60 - 4,599999999... и 6,60 - 6,5999999... Я ожидаю, что print b также покажет 659. Как р…
02 апр '18 в 16:25
2
ответа
Странное поведение при преобразовании строк C в / из двойников
У меня возникли проблемы с пониманием правил Си для определения точности, которую следует учитывать при печати с удвоением или при преобразовании строк в удвоение. Следующая программа должна проиллюстрировать мою точку зрения: #include <errno.h&g…
09 янв '12 в 20:14