Описание тега fixed-point
Questions about fixed-point arithmetic, done using a set number of decimal places. For the combinators used to encode recursion, use [fixpoint-combinators] instead. For the numerical method, use [fixed-point-iteration] instead. For the fixedpoint engine of Z3, use [z3-fixedpoint] instead.
1
ответ
Преобразование SIGNED дробей в UNSIGNED с фиксированной точкой для сложения и умножения
Как мы можем преобразовать числа с плавающей точкой в их "представления с фиксированной точкой" и использовать их "представления с фиксированной точкой" в операциях с фиксированной точкой, таких как сложение и умножение? Результат в операции с фик…
07 дек '15 в 02:54
0
ответов
Matlab Simulink Блок дискретного времени с типом данных с фиксированной запятой
Я разработал контроллер в Simulink, который хочу скомпилировать в HDL и прошить на FPGA. Поэтому я должен определить используемые типы данных в стиле с фиксированной запятой, а не в стандартном двойном, который выбирает Simulink.Каждый блок, который…
12 май '16 в 12:13
3
ответа
Лучший способ обработки десятичной точки с фиксированной точкой / разрешением в Ruby on Rails
Поэтому я создаю приложение для отслеживания времени с использованием Ruby On Rails и сохраняю время как число, представляющее часы. Поскольку значение, превышающее 0,01 (36 секунд) часов, не имеет значения, мне нужно только 2 десятичных знака. Я ис…
14 июн '11 в 15:33
1
ответ
Представление с фиксированной точкой двойного типа
Я пытаюсь преобразовать двойной тип в представление фиксированного типа. В зависимости от выбранного входа мои исходные значения могут быть, например, 0,00996, 989,15, 1600,25, 89,72 и т. Д. Дело в том, что все мои входные значения всегда положитель…
08 июл '13 в 21:34
2
ответа
Как исправить положение двоичной точки в беззнаковом N-битном интергере?
Я работаю над разработкой алгоритма с фиксированной точкой в C++. Я знаю, что для N-разрядного целого числа двоичное целое с фиксированной точкой представляется как U(a,b). Например, для 8-битного целого числа (то есть 256 выборок), если мы предст…
26 фев '15 в 12:10
1
ответ
Haskell: получение Show для типов Fix
Я пытаюсь реализовать рекурсивный тип данных, используя recursion-schemes, Я хотел бы иметь возможность распечатать его. import Data.Functor.Foldable data T1F a = Foo deriving Show type T1 = Fix T1F data T2 = Bar T1 deriving Show -- error here Сообщ…
21 мар '17 в 18:36
2
ответа
Странная неопределенная ссылка на.. ошибки
Я пытаюсь поэкспериментировать с математической библиотекой с фиксированной точкой, которую я нашел в Википедии и скачал из кода Google. Я попытался скомпилировать простой пример проекта, добавив следующий файл main.c к их исходному тексту и переком…
15 июн '11 в 18:50
1
ответ
Угол ответа Харриса в целых числах с фиксированной точкой?
В углу Харриса ответ рассчитывается следующим образом: R = det - K * tr^2 где k (константа) - число с плавающей запятой с 0,04 по умолчанию в нескольких известных библиотеках. Означает ли это, что ответ (R) также должен быть плавающей точкой? Как то…
21 дек '14 в 09:18
1
ответ
Как генерировать код с фиксированной точкой из непрерывной блочной модели?
Я пытаюсь сгенерировать код C для моделей контроллера и установки, которые непрерывны во времени, поэтому код должен генерироваться с поддержкой плавающей запятой. Но моя цель в реальном времени (ядро RTlinux x86) не поддерживает процессы с плавающе…
10 авг '16 в 08:02
0
ответов
18-битное умножение с фиксированной запятой с обработкой переполнения
Я пытаюсь реализовать множитель с фиксированной точкой для ПЛИС Xilinx. Входы a и b представляют собой 18-битные числа с фиксированной точкой в Q9.9 (8-битное целое число, 9-битная дробная часть и 1-битный знак). Я хочу, чтобы результат был снова …
07 ноя '18 в 15:12
3
ответа
Как преобразовать IEEE754 с плавающей точкой в фиксированную точку детерминистическим способом?
Мне нужно преобразовать 32-разрядный код IEEE754 в формат с фиксированной запятой Q19.12. Проблема состоит в том, что это должно быть сделано полностью детерминированным способом, поэтому обычное (int)(f * (1 << FRACTION_SHIFT)) не подходит, так как…
18 июл '12 в 13:15
1
ответ
Есть ли в Objective-C десятичный объект с фиксированной запятой?
В других языках часто существует фиксированный десятичный объект, который может использоваться вместо IEEE float/doubles, чтобы помочь гарантировать точность. Есть ли в Objective-C нечто подобное? Когда я искал, все, что я нашел, было NSNumber, кото…
26 май '11 в 03:42
1
ответ
Как найти смещение в таблице поиска синуса (LUT), используя арифметику с фиксированной точкой
Я генерирую LUT, разделяя 0-2PI на 512 фрагментов, а затем нахожу синус этих значений и сохраняю их как значения Q1.31. Пример: LUT[0] = 0 LUT[1] = sin((1/512) * 2*PI) * (2^31) .. .. LUT[511] = sin((511/512) * 2*PI) * (2^31) Мои входные данные также…
09 фев '15 в 09:31
5
ответов
Как использовать expr на float?
Я знаю, что это действительно глупый вопрос, но я не знаю, как это сделать в bash: 20 / 30 * 100 Так должно быть 66.67 но expr говорит 0потому что он не поддерживает float. Какая команда в Linux может заменить expr и выполнить это уравнение?
10 авг '09 в 09:48
5
ответов
Как преобразовать код C с плавающей запятой в фиксированную точку?
У меня есть код C, который использует удваивается. Я хочу иметь возможность запускать код на DSP ( TMS320). Но DSP не поддерживает двойные числа, только числа с фиксированной запятой. Каков наилучший способ преобразования кода в фиксированную точку?…
06 дек '10 в 16:10
4
ответа
Инициализировать переменную статически (во время компиляции)
1) У меня много констант в моем алгоритме. 2) мой код работает как с плавающей, так и с фиксированной точкой. Прямо сейчас эти константы инициализируются функцией float2fixed, в результате чего в плавающей точке она ничего не делает, а в фиксированн…
10 июн '09 в 22:58
2
ответа
Как использовать экземпляры Functor с типами Fix
Допустим, я хочу иметь очень общий ListF тип данных: {-# LANGUAGE GADTs, DataKinds #-} data ListF :: * -> * -> * where Nil :: List a b Cons :: a -> b -> List a b Теперь я могу использовать этот тип данных с Data.Fix построить F-алгебру i…
22 июл '17 в 16:32
2
ответа
Как выполнить 64-разрядное деление с помощью 32-разрядной инструкции деления?
Это (AFAIK) конкретный вопрос в этой общей теме. Вот ситуация: У меня есть встроенная система (игровая консоль), основанная на 32-битном RISC-микроконтроллере (вариант NEC V810). Я хочу написать математическую библиотеку с фиксированной запятой. Я ч…
26 авг '10 в 06:01
4
ответа
Объявив переменную только с 2 десятичными точками в C
Я пытаюсь объявить переменную eLon только с 1 десятичным знаком, чтобы при наличии кода: elon=359.8 printf("eLon = %f\n",eLon); и на выходе будет eLon = 359.8 Однако вывод, который я получаю: eLon = 359.7999999. Откуда я знаю, что могу изменить prin…
20 окт '15 в 22:18
2
ответа
Рассчитать произведение чисел с плавающей запятой с арифметикой с фиксированной запятой
У меня есть две работы: Мне нужно сохранить два значения датчика в памяти (используя FPU) а затем рассчитать произведение этих двух значений без FPU. Мои датчики: Датчик 1 выдает значения от 0 до 40 с разрешением 0,2 Датчик 2 выдает значения от -10 …
14 июн '18 в 21:30