Описание тега single-precision

Вопросы с тегом
1 ответ

IEEE 64 и 32-битная проверка с плавающей запятой в OCaml

У меня есть строка, соответствующая следующему регулярному выражению \-?[0-9]*\.[0-9]+ который предположительно представляет число IEEE с плавающей запятой. Это может быть одинарная или двойная точность, и я знаю тип заранее. Мне нужно проверить, мо…
27 июл '17 в 22:59
1 ответ

Переинтерпретировать байты как плавающие в C (двоичный файл с одинарной точностью IEEE 754)

Я хочу переосмыслить 4 байта как двоичный файл IEEE 754 с одинарной точностью в C. Чтобы получить байты, которые представляют float, Я использовал: num = *(uint32_t*)&MyFloatNumber; aux[0] = num & 0xFF; aux[1] = (num >> 8) & 0xFF; …
02 янв '18 в 22:04
2 ответа

Точность c_k = a + ( N + k) * b

a, b - 32-разрядные значения с плавающей запятой, N - 32-разрядное целое число, а k может принимать значения 0, 1, 2,... M. Необходимо вычислить c_k = a + (N + k) * b; Операции должны быть 32-битными (не с двойной точностью). Проблема заключается в …
16 май '13 в 12:57
5 ответов

Создание 32-разрядного числа с плавающей запятой из 4 составных байтов

Я пытаюсь построить 32-битный float из 4 составных байтов. Есть ли лучший (или более портативный) способ сделать это, чем с помощью следующего метода? #include <iostream> typedef unsigned char uchar; float bytesToFloat(uchar b0, uchar b1, ucha…
21 окт '10 в 20:09
0 ответов

Почему одинарная точность IEEE 754 имеет диапазон экспонент от -127 до 128, а не от -128 до 127

В IEEE 754 диапазон 8-битных показателей одинарной точности составляет от -127 до 128, но не от -128 до 127
15 сен '17 в 13:11
1 ответ

Как вы определяете, сколько целых чисел в множестве S всех в 32-битных значениях с плавающей точкой IEEE

Может ли кто-нибудь объяснить мне, что именно он заявляет? Я знаю, что это в основном означает, что это одинарная точность с 1-битным знаком, 8-битным показателем и 23-битным мантиссой. Разве ответ не должен быть просто 2 * 2^8-2 * 2^23? Редактирова…
25 окт '17 в 05:59
1 ответ

Преобразование целого числа в одинарную точность в python

Я не могу понять, как преобразовать целое число с одинарной точностью, используя python, я уже пытался использовать numpy, но функция float32() не помогает. пример 984761996 -> 1.360135E-3
03 июн '14 в 14:35
1 ответ

CUDA C использует флоп одинарной точности на парном разряде

Эта проблема Во время проекта в CUDA C я столкнулся с неожиданным поведением в отношении операций с плавающей запятой одинарной и двойной точности. В проекте я сначала заполняю массив номером в ядре, а в другом ядре выполняю некоторые вычисления для…
16 янв '17 в 15:53
1 ответ

MIPS - Как конвертировать набор целых чисел в плавающие с одинарной точностью

Мне действительно трудно понять, как подойти к этой проблеме. Я понял, что хочу взять двоичное представление как целого числа, так и дроби, объединить их для мантиссы и присвоить знаковый бит началу, но я не знаю, как на самом деле реализовать его в…
21 окт '13 в 15:49
1 ответ

Арифметика одинарной точности нарушается при выполнении скомпилированного кода x86 на 64-битной машине

Когда вы читаете MSDN на System.Single: Single соответствует стандарту IEC 60559:1989 (IEEE 754) для двоичной арифметики с плавающей точкой. и спецификация языка C#: float а также double типы представлены с использованием 32-разрядных форматов IEEE …
28 сен '12 в 17:22
0 ответов

Как компьютер показывает нам результат 0,7, когда мы добавляем 0,1 и 0,6 в калькуляторе?

1) Как я знаю, компьютер преобразует десятичные числа в двоичные и выполняет транзакции. Например, когда мы добавляем десятичные числа, такие как "12" и "37" в компьютерный калькулятор. Это правильно? 2) Если первый мой вопрос верен, как двоичное вы…
21 окт '16 в 07:07
1 ответ

Как конвертировать поплавок в двойную работу?

double может представлять каждое значение, которое может представлять float. Разве преобразование числа с плавающей запятой в двойное просто расширяет мантиссу, добавляя 0, и расширяет экспонентную часть, заполняя биты знака? Я проверил некоторые да…
17 июл '17 в 17:28
0 ответов

Mips от одного до двойного разрешения с плавающей запятой

У меня есть эта программа в мипс, и я не должен был менять ее на двойную точность. Похоже, что плавающие инструкции одинарной и двойной точности имеют те же инструкции, но вместо.s это.d Если у кого-то есть комментарии или помощь, это очень мне помо…
08 апр '15 в 00:34
0 ответов

fftw с двойной точностью до одинарной точности

У меня уже есть fftw-2.1.5 в моей системе. Как я могу изменить его с двойной точности на одинарную точность и нужно ли переустанавливать его? Любая помощь приветствуется.
30 июн '16 в 03:04
1 ответ

Запись чисел с плавающей точкой с одинарной точностью в файл в R?

Я понимаю, что R не имеет формата с плавающей запятой с одинарной точностью. Тем не менее, я записываю очень большое количество точек данных из R в файл, и я хотел бы хранить их как плавающие одинарной точности, а не двойной точности. Мне не нужна х…
18 сен '15 в 00:03
1 ответ

Странный результат, когда отнимают 2 фигуры одинарной точности друг от друга в VBA

Может кто-нибудь объяснить мне, почему результат ниже не равен нулю? ? CSng("0.199881939681229") ? CSng(0.1998819) ? CSng(CSng(0.199881939681229) - CSng(0.1998819)) 1-я строка возвращает 0,1998819 2-я строка также возвращает 0,1998819, а 3-я возвращ…
03 июл '15 в 16:59
0 ответов

Определить, является ли число с плавающей запятой слишком большим (переполнение)

Я начинаю с MIPS, и мне было задано домашнее задание, в котором я должен найти гипотенузу треугольника с учетом его ножек (все они являются числами с плавающей запятой одинарной точности). Однако на каждом этапе я должен проверять переполнение, срав…
22 май '17 в 09:42
0 ответов

Почему отдельные данные в vba могут генерироваться из 8 байт?

Мой код VBA приведен ниже, и я думаю, что не смог получить одинарную и двойную часть vba, но в соответствии с int, long и байтовой логикой результат нормальный Где я ошибаюсь при определении максимального значения одинарных и двойных? Sub test() Deb…
04 авг '18 в 22:11
1 ответ

Десятичное в IEEE с плавающей точкой одинарной точности

Мне интересно узнать, как преобразовать целочисленное значение в формат IEEE с плавающей запятой одинарной точности, используя только побитовые операторы. Тем не менее, я не совсем понимаю, что можно сделать, чтобы узнать, сколько осталось логически…
01 дек '13 в 00:20
3 ответа

Добавьте два 32-битных числа с плавающей точкой с помощью AVR-Ассемблера

Я пытаюсь использовать AVR Studio, чтобы сложить два 32-битных числа с плавающей точкой. Я знаю, что мне нужно будет хранить 32-битное число в 4 отдельных 8-битных регистрах. Затем мне нужно добавить регистры вместе, используя флаг переноса. Это то,…
14 июл '15 в 21:50