Описание тега precision
По вопросам, связанным с числовой точностью в программировании. Для точности классификации используйте тег [точность-отзыв].
0
ответов
Математический расчет `1500 * 1.1` в рубине
В обычном математическом расчете результат 1500 * 1.1 должно быть 1650, но не в Ruby: 1500 * 1.1 # => 1650.0000000000002 Как я могу получить правильный результат?
21 ноя '18 в 08:34
3
ответа
Повторная настройка уравнения с плавающей точкой
Я хотел бы знать, есть ли способ повысить точность расчета наклона. (Это появилось несколько месяцев назад здесь). Кажется, изменив: float get_slope(float dXa, float dXb, float dYa, float dYb) { return (dXa - dXb)/(dYa - dYb); } в float get_slope(fl…
27 май '09 в 18:51
1
ответ
Добавьте два значения Float и получите до 2 значений точности
Можем ли мы получить до 2 значений точности, когда мы добавим 2 значения с плавающей точкой, содержащие 0 в качестве 2-й точности, не меняя его тип как Float У меня как фрагмент a = 1.20+1.20 print a вывод должен быть как 2.40 но я получил вывод как…
01 ноя '17 в 12:25
1
ответ
Я теряю 2 силы в умножении IEEE754
Я изучаю IEE754, и я немного сбит с толку этими строками кода double a = 0.2; double b = 100.0; double c = a * b; Я знаю, что 0.2 не может быть идеально представлено степенями 2, а 100 может, но я получаю идеальный результат 20 как результат в c. Ви…
01 дек '16 в 19:54
3
ответа
Неопределенность типа данных с плавающей точкой
Я делаю численный анализ математического программного обеспечения, которое я разработал. Я хочу определить, в чем заключается неопределенность моего результата. бытие f() мой метод и x входное значение, я хочу идентифицировать y моего результата как…
23 мар '18 в 16:29
1
ответ
Преобразование BigDecimal в удвоение
При преобразовании BigDecimal в удвоение добавляются дополнительные точности. Не могли бы вы предложить это. Например: BigDecimal deci= new BigDecimal(1.23456789123457E+17); double value = deci.doubleValue(); System.out.println(value); И ценность от…
17 мар '15 в 16:05
1
ответ
Точность и отзыв в fastText?
Я использую fastText для классификации текста, ссылка https://github.com/facebookresearch/fastText/blob/master/tutorials/supervised-learning.md Мне было интересно, что означает точность @1 или P@5? Я сделал бинарную классификацию, но я проверил друг…
09 сен '17 в 10:54
1
ответ
pyspark sql ошибка точности с плавающей точкой
У меня есть такой стол +------+------------+ | fruit|fruit_number| +------+------------+ | apple| 20| |orange| 33| | pear| 27| | melon| 31| | plum| 8| |banana| 4| +------+------------+ Я хочу сгенерировать процент каждой строки, но когда я суммирую …
19 окт '16 в 23:39
3
ответа
Установить точность для числа с плавающей точкой в PHP
Я получаю номер из базы данных, и этот номер может быть либо float или же int, Мне нужно установить десятичную точность числа 3что делает число не длиннее (относительно десятичных дробей) 5.020 или же 1518845.756, Используя PHP round($number, $preci…
09 ноя '13 в 11:51
12
ответов
Определить точность и масштаб определенного числа в Python
У меня есть переменная в Python, содержащая число с плавающей запятой (например, num = 24654.123), и я хотел бы определить значения точности и масштаба числа (в смысле Oracle), поэтому 123,45678 должно дать мне (8,5), 12,76 должно дать мне (4,2) и т…
10 июн '10 в 21:40
1
ответ
Отладчик округляет числа с плавающей запятой... почему это происходит и как обойти это?
У меня есть следующий код: public static float FLOAT_VALUE = 0.899999761581421f; Но всякий раз, когда я вызываю это значение с помощью отладчика, я вижу, что теперь оно становится 0,9f. Почему это происходит и как мне обойти это?
04 окт '17 в 00:11
1
ответ
Укажите Integer Precision gfortran
Я работаю с целыми числами больше 2^31-1, и поэтому я пытаюсь установить точность моих целочисленных переменных на более высокое значение. Метод, который я считал правильным, был PROGRAM f1 IMPLICIT NONE INTEGER,PARAMETER :: LONG = SELECTED_INT_KIND…
20 июл '14 в 17:29
1
ответ
Обработка неточностей с плавающей запятой при создании весов экспоненциального сглаживания
Я хочу создать массив весов экспоненциального сглаживания, как в формуле (7.2), отсюда. Я знаю рекурсивное определение, но мне нужны реальные веса. Я придумал следующую простую реализацию: import numpy as np def create_weights(n, alpha = 1.0): wghts…
28 мар '18 в 17:14
4
ответа
Проблема с добавлением значений Float в Java
У меня есть два значения 5042034.0 1425837.2 пока я добавляю как ниже float abc = (float) (5042034.0 + 1425837.2); Я ожидаю результата 6467871.2 Но я получаю 6467871.0 Как я мог получить 6467871.2 с помощью поплавка? Я пробовал с float c = (float) (…
27 июл '17 в 11:55
6
ответов
Как создать таймер высокого разрешения в Linux для измерения производительности программы?
Я пытаюсь сравнить GPU с производительностью процессора. Для графического процессора NVIDIA я использую cudaEvent_t типы, чтобы получить очень точное время. Для процессора я использовал следующий код: // Timers clock_t start, stop; float elapsedTime…
19 июл '11 в 15:20
0
ответов
Почему 0,1 + 0,2 == 0,3 в C#, когда использовать тип с плавающей точкой
Во многих языках программирования такие операции, как 0,1 + 0,2, не будут равны 0,3, а скорее 0,30000000000000004. И, таким образом, проверки типа 0.1+0.2 == 0.3 вернут ложь. Насколько мне известно, это связано со стандартом IEE 754, и поэтому он ра…
18 май '16 в 15:19
1
ответ
Неограниченная точность и заданное округление и масштаб с помощью строкового конструктора
С Java BigDecimal, возможно иметь неограниченную точность и заданное округление и масштабирование с помощью строкового конструктора. Я видел GMP GMU, мультипрецизионность Boost и MPFR, но, похоже, ни у одного из них нет этих характеристик. Может ли …
06 мар '14 в 21:53
2
ответа
Как заставить длинный дубль в Perl
Я теряю точность, когда делаю арифметику или пытаюсь напечатать (отладить) такие большие цифры: 1234567890.123456789 Я думаю, что мои проблемы связаны с $d (результат арифметики) и отформатированной печатью $e. Как я могу заставить длинные пары? Моя…
13 янв '15 в 23:28
1
ответ
Лучший способ добавить 3 числа (или 4, или N) в Java - Kahan Sums?
Я нашел совершенно другой ответ на этот вопрос, весь оригинальный вопрос больше не имеет смысла. Однако способ ответа будет полезен, поэтому я немного его модифицирую... Я хочу подвести итог три double числа, скажем a, b, а также c наиболее устойчив…
23 ноя '15 в 08:33
2
ответа
Найти максимальный целочисленный размер, который может обрабатывать тип с плавающей запятой без потери точности
Double имеет диапазон больше 64-битного целого, но его точность меньше зависит от его представления (поскольку double также 64-битный, он не может соответствовать более фактическим значениям). Поэтому, когда вы представляете большие целые числа, вы …
06 апр '10 в 00:52