Описание тега inexact-arithmetic

Вопросы с тегом
2 ответа

Схема - "неточная" концепция в числовой башне R5RS

Размышляя о том, как реализовать Scheme R5RS, я озадачился следующим фрагментом R5RS (стр. 22-23): (остаток -13 -4) ==> -1 (остаток -13 -4,0) ==> -1,0; неточный (лкм 32 -36) ==> 288 (см 32,0 -36) ==> 288,0; неточный (знаменатель (/ 6 4)) ==> 2 (знам…
10 фев '11 в 10:06
2 ответа

Как функция Scheme работает неточно -> точно?

Как устроена схема процедуры inexact->exact, описанные в SICP, работают?
27 дек '10 в 14:05
2 ответа

DBL_MAX теряет значительную часть своей точности после повторного анализа из строки

Я запускаю этот код на моем iPhone: double d = DBL_MAX; NSString *s = [NSString stringWithFormat:@"%.0f", d]; double dp = atof([s cStringUsingEncoding:[NSString defaultCStringEncoding]]); NSString *pe = d == dp ? @"YES" : @"NO"; double one = 1; doub…
12 мар '12 в 16:38
2 ответа

Деление поплавка на 10

Возможный дубликат: Почему десятичные числа не могут быть представлены точно в двоичном формате? Я разрабатываю довольно простой алгоритм использования математики под C++. И у меня есть переменная с плавающей точкой с именем "step", каждый раз, когд…
24 дек '11 в 06:16
4 ответа

Сравнение поплавков в колонне панд

У меня есть следующий фрейм данных: actual_credit min_required_credit 0 0.3 0.4 1 0.5 0.2 2 0.4 0.4 3 0.2 0.3 Мне нужно добавить столбец, указывающий, где actual_credit >= min_required_credit. Результат будет: actual_credit min_required_credit resul…
10 ноя '15 в 09:15
1 ответ

Можно ли предсказать, когда математика Perl в десятичной / плавающей запятой будет неправильной?

В одном отношении я понимаю, что плавающие в Perl неточные двоичные представления, что иногда приводит к неверным вычислениям в Perl. Чего я не понимаю, так это того, почему иногда эти ответы дают точные ответы, а иногда нет. Можно ли предсказать, к…
06 апр '15 в 22:36
2 ответа

SQL Server результат приведения арифметики

Я просто смотрю на некоторые очень незначительные несоответствия в отчете, который я составляю, и меня смущает вопрос о том, что является лучшим способом использования SQL-сервера для приведения типов, и если кто-то может мне указать правильное напр…
03 авг '11 в 12:47
4 ответа

Всегда ли double 0.0 представлен точно в переносимом C?

Можно ли ожидать, что следующий код будет работать во всех средах с ANSI-совместимым компилятором C? double n = 0; assert(n == 0); А как насчет C++?
14 апр '11 в 21:57
1 ответ

Сгенерируйте "нечеткую" разницу двух файлов в Python с приблизительным сравнением чисел с плавающей запятой

У меня есть проблема для сравнения двух файлов. По сути, я хочу сделать UNIX-подобный diff между двумя файлами, например: $ diff -u left-right-file Однако мои два файла содержат числа с плавающей запятой; и поскольку эти файлы были сгенерированы на …
24 июн '10 в 08:23
1 ответ

Почему (max (sin (/ 5 3)) (sqr 12)) в схеме /Dr. Ракетка (Beginning Student Language) оценена как неточная?

Я читал, как разрабатывать программы, и в упражнении 2.1.1 я должен: Узнайте, есть ли у DrScheme операции для возведения в квадрат числа; для вычисления синуса угла; и для определения максимум двух чисел. - сек 2.2, из 2.1.1 Мой код: (sin (/ 5 3)) (…
01 авг '14 в 07:18
1 ответ

Точные / неточные результаты, такие как sqrt и целочисленные корни

R6RS 3.4 Требования к реализации гласят ... Потенциально неточные операции, такие как sqrt, когда применяется к точным аргументам, должен по возможности давать точные ответы (например, квадратный корень из точных 4 должен быть точным 2). (1) Означа…
30 дек '14 в 12:05
1 ответ

Как я могу получить точные значения sin и cos в matlab для углов типа pi/4?

Если я напишу в Matlab cos(pi/4) Я получаю эту форму: 0.7071 когда я предпочел бы получить фактическое значение (2)^(1/2)/2, чтобы написать формулы более четко. Есть ли способ сделать то, что я спрашиваю?
03 янв '14 в 17:31
1 ответ

Как преобразовать любое число в тип clojure.lang.Ratio в Clojure?

На схеме я могу сделать: #;> (numerator 1/3) 1 #;> (denominator 1/3) 3 В Clojure я могу сделать нечто подобное: user=> (numerator 1/3) 1 user=> (denominator 1/3) 3 Но на схеме я могу сделать: #;> (numerator 0.3) 3.0 и это не возможно …
08 авг '14 в 01:31
0 ответов

Какова типичная определяемая пользователем логика, которая выполняется после возбуждения FE_INEXACT?

Я более или менее понимаю / представляю типичную пользовательскую логику, которая выполняется: после FE_OVERFLOW или же FE_UNDERFLOW поднят: некритический случай: попробуйте восстановить, например, настроив некоторые значения / коэффициенты и повтор…
02 май '21 в 21:01
0 ответов

CGAL точный предикат неточные конструкции

Я знаю, что можно получить точные результаты сравнения без точного построения объектов, используяexact_predicate_inexact_constructionsядро в CGAL. Меня интересует, до какой степени я могу использовать неточные объекты, чтобы получить точный результа…
05 янв '23 в 17:57