Описание тега extended-precision
0
ответов
Точные проблемы с очень большими реалами - Фортран
Проблема, которую я пытаюсь решить на данный момент, заключается в вычислении порядка 10 по модулю (n), где n может быть любым числом меньше 1000. У меня есть функция, позволяющая сделать именно это, однако я не могу получить точные результаты По ме…
17 апр '14 в 04:49
3
ответа
Возможен ли BigNum AVX/SSE?
Регистры SSE/AVX можно рассматривать как большие числа с целыми числами или числами с плавающей запятой. То есть можно пренебречь тем, что полосы вообще существуют. Существует ли простой способ использовать эту точку зрения и использовать эти регист…
13 янв '15 в 13:22
1
ответ
Преобразовать расширенное значение во время
Я хочу преобразовать расширенное значение во время. до десятичного разделителя - часы, после десятичного разделителя - минуты цифровые 8,62944444444444 --> 8:37 1,41666666666667 --> 1:25 Я сделал эту функцию, но я получаю за 1,41666666666667 -…
01 апр '15 в 11:59
1
ответ
NaN с плавающей точкой в зависимости от некоррелированной обработки исключений в C++
Очень странно: double *data; // uncorrelated double a,b,c; double sigma = 1e-309; // denormalized number try { data = new double[10]; } // uncorrelated catch(...) { cout << "error"; return 1; } a = 1/sigma; // infinite b = exp(-1/sigma); // 0 …
19 ноя '13 в 09:50
1
ответ
Как отформатировать MinExtended80Denormal?
Единица System.Math определяет постоянную MinExtended80Denormal Могу ли я преобразовать это число в строку с заданными функциями RTL? Я старался FormatFloat('#.##############E+####', System.math.MinExtended80Denormal) что приводит к 000000000000000E…
27 мар '18 в 21:37
2
ответа
Могут ли регистры XMM использоваться для выполнения любых 128-битных целочисленных вычислений?
Мое впечатление определенно нет, но, может быть, есть хитрый трюк? Благодарю.
18 июл '11 в 19:27
1
ответ
80-битная расширенная точность с плавающей точкой в OCaml
Есть ли библиотека OCaml, чтобы использовать преимущества 80-битного типа с плавающей точкой расширенной точности в архитектурах IA-32 и x86-64? Я знаю о привязках MPFR, но моя идеальная библиотека была бы более легкой. Использование исторических ин…
20 ноя '12 в 17:30
2
ответа
Есть ли документ, описывающий, как Clang обрабатывает избыточную точность с плавающей точкой?
Почти невозможно (*) обеспечить строгую семантику IEEE 754 при разумных затратах, когда разрешено использовать только инструкции с плавающей запятой, 387. Это особенно трудно, когда хочется, чтобы FPU работал на полном 64-битном значении, и чтобы lo…
15 июл '13 в 20:56
0
ответов
Вычисление умножения и вычитания 64-разрядного целого числа без знака с использованием 32-разрядных целых чисел
У меня есть проект для вычисления 64-разрядных целых чисел без знака, умножения и вычитания с использованием только 32-разрядных целых чисел со знаком / без знака в c. 64-разрядное целое число без знака заново определяется следующим образом: typedef…
22 сен '18 в 13:05
1
ответ
Можно ли использовать арифметику с плавающей запятой расширенной точности (80-битную) в GHC/Haskell?
В стандартном двойнике Хаскелла используется стандартная арифметика двойной точности: data Double Числа с плавающей запятой двойной точности. Желательно, чтобы этот тип был по меньшей мере равным по дальности и точности типу двойной точности IEEE. П…
28 май '13 в 17:12
2
ответа
C++ обработка избыточной точности
В настоящее время я смотрю на код, который выполняет арифметику с плавающей точкой с множественной точностью. Для корректной работы этого кода требуется, чтобы значения были сведены к конечной точности в четко определенных точках. Таким образом, даж…
01 янв '14 в 14:58
2
ответа
В J, как я могу найти расширенную точность целочисленного пола квадратного корня
Я так понимаю когда беру квадратный корень (%:) числа, которое не приводит к целому числу, мой ответ - это число с плавающей точкой. Я ищу слово (<.) квадратного корня, чтобы получить целочисленный результат. Есть ли у J встроенный способ добитьс…
14 май '15 в 15:55
1
ответ
Разделите меч словом nasm
Я пытаюсь сделать подписанный раздел меча в DX:AX скажем, 1234567 со словом [b]=10. a dd 1234567 b dw 10 mov ax,[a] mov dx,[a+2] idiv word [b] Коэффициент должен быть 123456, но он слишком велик, чтобы не помещаться в топор. Что я должен сделать, чт…
08 ноя '17 в 18:46
1
ответ
Преобразовать расширенный (80-разрядный) в строку
Как я могу преобразовать значение с плавающей точкой расширенной точности в строку? Фон Процессор Intel поддерживает три формата с плавающей запятой: 32-битная одинарная точность 64-битная двойная точность 80-битная расширенная точность Delphi имеет…
21 июн '18 в 18:49
2
ответа
Как я могу добавить два числа по 12 байт каждый?
Я хочу добавить два числа, которые имеют 12 байтов и сохранить результат в 16-байтовой переменной. Как я могу это сделать? section .data big_num1 dd 0x11111111, 0x22222222, 0x33333333 big_num2 dd 0xffffffff, 0x22222222, 0x33333333 section .bss resul…
30 янв '19 в 16:08
1
ответ
Преобразование 80-битной расширенной точности в Java
Я работаю над программой, которая конвертирует действительно старые файлы Open Access 4 .df в другие форматы, а также создает сценарии базы данных - я уже могу конвертировать все возможные типы, кроме десятичного. Я обнаружил, что порядок следования…
27 фев '16 в 11:59
1
ответ
Сборка: Увеличение на 2 (или большее число) без разрушения CF в контуре АЦП?
Я пытаюсь проверить функцию добавления в 64-битной сборке TDM-GCC в Windows. Некоторое время назад я искал ресурсы и наткнулся на код, похожий на этот (я внес некоторые изменения, чтобы скомпилировать его в TDM-GCC). typedef struct { int size; __uin…
15 окт '18 в 11:47
2
ответа
Свойства 80-битных вычислений с расширенной точностью, начиная с аргументов двойной точности
Вот две реализации интерполяционных функций. аргументация u1 всегда между 0. а также 1., #include <stdio.h> double interpol_64(double u1, double u2, double u3) { return u2 * (1.0 - u1) + u1 * u3; } double interpol_80(double u1, double u2, doub…
05 дек '12 в 14:48
1
ответ
Умножение 64-битного числа на 32-битное число в 8086 асм
У меня были проблемы, даже инициируя решение проблемы. Я пытался учесть алгоритм умножения с повторным сложением, но какой бы алгоритм я ни рассматривал, мне кажется, что я зациклен на одной проблеме - максимальный размер регистра в 8086 - 16-битный…
03 апр '19 в 01:23
2
ответа
Получить без знака длинное длинное сложение
Я хочу получить дополнительный бит добавления двух беззнаковых 64-битных целых чисел в c. Я могу использовать x86-64 ASM, если это необходимо. код: #include <stdio.h> typedef unsigned long long llu; int main(void){ llu a = -1, b = -1; int carr…
07 май '19 в 17:05