Описание тега floating-point
Числа с плавающей запятой представляют собой аппроксимации действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет более низкой точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или ошибок десятичного преобразования, пожалуйста, прочтите "информацию" на указанной ниже странице перед публикацией.
1
ответ
Хорошо ли задан режим округления больших литералов с плавающей точкой?
Рассмотрим следующий код: System.out.printf("%f%n", 123456796f); Это печатает 123456800 в моей системе, таким образом, значение было округлено до 4. Является ли округление обязательным в этой ситуации, или же компилятор решил также округлить до 4, ч…
10 ноя '14 в 14:49
2
ответа
Разница между двойным значением в Oracle и Java (IEEE 754)
BINARY_DOUBLE в Oracle и Double в Java используют стандарт IEEE 754. Но есть разница в их точности. Например значение: 456.67d Oracle: declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.99999999999999999999EEEE')); end; …
21 апр '17 в 10:04
2
ответа
Спецификаторы формата в C
#include<conio.h> #include<stdio.h> main() { printf("%d %f ", 4.0, 4.0); getch(); } Я получаю вывод как 0 4.000000, Я хочу знать точную причину.
17 мар '16 в 04:24
3
ответа
C++ sqrt гарантированная точность, верхняя / нижняя граница
Я должен проверить неравенство, содержащее квадратные корни. Чтобы избежать неверных результатов из-за неточностей с плавающей точкой и округления, я использую std::nextafter() чтобы получить верхнюю / нижнюю границу: #include <cfloat> // DBL_…
25 авг '15 в 15:25
3
ответа
Значение Float и Double NaN (Not-a-Number)
Я читал JLS8 4.2.3 там я нашел концепцию Float NaN а также Double NaN, Когда я открыл исходный код Float а также Double класс, и попробовал следующий код: 1st condition: if (Float.NaN == Float.intBitsToFloat(0x7fc00000)) System.out.println("Both are…
23 мар '14 в 11:38
3
ответа
Повторная настройка уравнения с плавающей точкой
Я хотел бы знать, есть ли способ повысить точность расчета наклона. (Это появилось несколько месяцев назад здесь). Кажется, изменив: float get_slope(float dXa, float dXb, float dYa, float dYb) { return (dXa - dXb)/(dYa - dYb); } в float get_slope(fl…
27 май '09 в 18:51
2
ответа
Почему результат алгоритма аппроксимации более точен, чем минимальный шаг?
В этом приблизительном алгоритме исследования я устанавливаю эпсилон на 0,01 и шаг на 0,0001. Результат запуска: ans = 0.9949999999999067. поскольку ans добавляет 0,0001 каждый шаг, результат должен быть точным до четвертой цифры после точки. Почему…
16 июл '18 в 07:42
1
ответ
Неточность вычисления с плавающей запятой ANSI C
Как люди справляются с неточностями с плавающей запятой в ANSI C? В этом случае ожидается ожидаемый результат 4,305, но ANSI C возвращает дополнительно 0,000001? #include<stdio.h> main() { float _lcl1=66.3; float _ucl1=76; float lbl1 = 0; floa…
27 фев '12 в 17:18
2
ответа
10e нотация используется с переменными?
Я хочу знать, как я могу использовать нотацию 10eX в Python 2.7.9 с переменной. В терминах литералов 10eX дает (10^X).00000(число с плавающей запятой). Однако я хочу использовать некоторую переменную вместо литерала, и она не работает. Какое синтакс…
22 янв '17 в 17:41
5
ответов
Генерировать некорректные данные для проверки суммирования с плавающей запятой
Я реализовал алгоритм суммирования с плавающей запятой Кахана в Java. Я хочу сравнить его со встроенным дополнением с плавающей точкой в Java и дополнением с бесконечной точностью в Mathematica. Однако набор данных, который я имею, не подходит для…
06 июл '11 в 20:13
3
ответа
Неопределенность типа данных с плавающей точкой
Я делаю численный анализ математического программного обеспечения, которое я разработал. Я хочу определить, в чем заключается неопределенность моего результата. бытие f() мой метод и x входное значение, я хочу идентифицировать y моего результата как…
23 мар '18 в 16:29
3
ответа
Объясните проблему с плавающей точкой в факторизации
Я упускаю здесь техническое слово, но проблема здесь в том, чтобы либо изменить int на float, либо float на int. def factorize(n): def isPrime(n): return not [x for x in range(2,int(math.sqrt(n))) if n%x == 0] primes = [] candidates = range(2,n+1) c…
19 янв '11 в 16:44
1
ответ
Преобразование BigDecimal в удвоение
При преобразовании BigDecimal в удвоение добавляются дополнительные точности. Не могли бы вы предложить это. Например: BigDecimal deci= new BigDecimal(1.23456789123457E+17); double value = deci.doubleValue(); System.out.println(value); И ценность от…
17 мар '15 в 16:05
1
ответ
iPhone Thumb & VFP
Как соотносятся коды "compile for Thumb" и VFP? на iPhone 2G/3G я знаю, что набор инструкций Thumb не включает вычисления с плавающей запятой (на 3GS, по-видимому, Thumb2 имеет…). Так что же произойдет, если кто-то скомпилирует для большого пальца, …
13 янв '10 в 15:40
2
ответа
Запрещено ли использование типов с плавающей точкой на Android?
На странице сайта разработчика Android упоминается, что вам следует (цитата): "Избегать использования чисел с плавающей запятой" (ссылка: Советы по повышению производительности) После прочтения всей статьи, кажется, что некоторые пункты там могут бы…
22 окт '13 в 18:26
3
ответа
Странное поведение int(x) в python
При запуске этой программы, cost = 12 money = 12.51 change = money - cost dollars = int(change) change -= dollars quarters = int(change / 0.25) change -= quarters * 0.25 dimes = int(change / 0.1) change -= dimes * 0.1 nickels = int(change / 0.05) ch…
10 авг '13 в 03:52
9
ответов
Изменить формат печати по умолчанию
У меня есть несколько списков и более сложные структуры, содержащие поплавки. При их печати я вижу числа с большим количеством десятичных цифр, но при печати они мне не нужны. Поэтому я хотел бы определить пользовательский формат (например, 2 или 3 …
16 июл '10 в 12:31
1
ответ
Как добавить поплавок в строку кода и уничтожить pygtk?
Я знаю, что вы не должны задавать два вопроса, но первый очень прост (но я не могу понять это, потому что я не работал с поплавками). В этой строке кода у меня есть (я получил его из Интернета), я пытаюсь сделать слайд-шоу, и я хочу, чтобы он подожд…
06 дек '13 в 16:11
1
ответ
Плавает в визуальной студии
Рассмотрим систему с плавающей запятой одинарной точности, соответствующую стандарту IEEE 754. В визуальной студии переключатель FP был установлен в строгое положение. struct FP { unsigned char a : 8; unsigned char b : 8; unsigned char c : 8; unsign…
24 сен '18 в 15:01
8
ответов
Есть ли разница между этими двумя утверждениями?
float ff = 1.2f; Float fo = new Float(1.2f); double fg = 3.2d; Double fh = new Double(2.1d); Могу ли я использовать '=' между (1) и (3) или между (2) и (4)??
17 июн '09 в 18:39