Описание тега floating-point-conversion
Anything related to converting a floating point number to and from other representations.
1
ответ
JavaScript только функция FadeIn
fadeIn:function(speed,till){ speed = speed !== undefined ? speed : 400; speed = typeof speed === 'number' ? speed : speed == "slow" ? 600 : speed == "fast" ? 200 : speed !== 'slow' || speed!== 'fast' ? 400 : 400; var opc = window.getComputedStyle(t…
16 янв '14 в 00:00
1
ответ
Чтение чисел с плавающей точкой
Я пытаюсь читать числа с плавающей запятой (ввод командной строки). Это правильный путь? sscanf(argv[i], "%f", &float)
26 фев '12 в 22:54
2
ответа
Как преобразовать число с плавающей точкой одинарной точности IEEE в десятичное значение
Поэтому я пытаюсь преобразовать 46bfc000 (который является числом с плавающей запятой в одинарной точности IEEE) в десятичное значение. Я могу получить приблизительное значение, но не точное значение. Итак, вот моя работа для моей приблизительной ст…
29 ноя '15 в 18:24
4
ответа
Извлечение значимого и показателя степени для представления base-10 из десятичной строки
Я ищу эффективную реализацию Python функции, которая принимает строку в десятичном формате, например 2.05000 200 0.012 и возвращает кортеж из двух целых чисел, представляющих значение и экспоненту ввода в формате с плавающей запятой 10, например (20…
12 ноя '14 в 14:46
6
ответов
Вывести сумму строк как число с плавающей запятой
Я работаю над упражнением, в котором говорится: Позволять s быть строкой, содержащей последовательность десятичных чисел, разделенных запятыми, например, s = '1.23,2.4,3.123', Напишите программу, которая печатает сумму чисел в s, Мое решение: s = '1…
07 окт '14 в 18:17
12
ответов
Лучший способ проверить, является ли число с плавающей точкой целым числом
[Есть несколько вопросов по этому вопросу, но ни один из ответов не является окончательным, и некоторые из них не соответствуют текущему стандарту C++]. Мои исследования показывают, что это основные методы, используемые для проверки возможности прео…
13 окт '14 в 13:43
2
ответа
Вывод преобразования с плавающей запятой в строку отличается
Я пытаюсь разобрать строку, чтобы плавать, но это дает мне несколько другой вывод. Предположим, мой код: String a = "111111111111111111111.23"; Float f = Float.parseFloat(a); System.out.println(f); Это дает мне что-то вроде: 1.1111111E20 Проще говор…
18 июн '15 в 08:40
1
ответ
Определено ли поведение округления строковых к двойным методам?
В идеале метод строка-в-двойку всегда будет давать double значение которого было ближе всего к точному числовому значению указанной строки; например, поскольку "102030405060708072.99" находится всего в 7,01 от следующего большего значения, но на 8,9…
23 июн '14 в 15:00
1
ответ
C# точность плавания
Может кто-нибудь, пожалуйста, объясните мне, что здесь происходит: using System; using System.Text; namespace ConsoleApplication1 { class Program { static void Main(string[] args) { object o = 1000000.123f; float f= Convert.ToSingle(o); double d = C…
10 фев '14 в 21:05
4
ответа
Незаконное использование плавающей запятой в C
Я продолжал получать незаконное использование символа в строке, которая проверяет, является ли переменная пустой или нулевой. Кто-нибудь знает, почему это произошло? ошибка указывает здесь: if((fa == "" && fp == "") || (fb == "" && f…
30 янв '13 в 00:35
2
ответа
Нечетный результат округления до десятичного числа на половину
Предоставление значения с плавающей запятой 37.35 Я получаю строку 37.3 Вот мой код DecimalFormat format = new DecimalFormat(".0"); format.setRoundingMode(RoundingMode.HALF_UP); return format.format(37.35f); Я ожидал бы получить строку 37.4, Что я д…
23 фев '17 в 18:21
2
ответа
Конвертировать double в GLfloat в Haskell
Я хочу конвертировать Double в GLfloat. Я хочу использовать это для сравнения. xM <- newIORef 0.0 zM <- newIORef 0.0 mobs <- newIORef [] mapM_ (\x -> colision x xM) mobs мобы наполнены методом. colision mob xC = do xcama <- get xC --z…
25 май '14 в 02:46
2
ответа
Стандартные гарантии использования арифметики с плавающей запятой для представления целочисленных операций
Я работаю над кодом, который будет работать на очень разнородном кластере. Программа выполняет интервальную арифметику с использованием 3, 4 или 5 32-битных слов (беззнаковых целых), чтобы представить границы высокой точности для интервалов. Мне каж…
10 мар '15 в 05:12
2
ответа
Safe Range of double, который может быть брошен, чтобы плавать без потери данных
Каков безопасный диапазон double, который может быть приведен к плавающей точке без потери данных (как с дробной частью, так и без нее) Пример: double value = 1423210126.00f; float floatVal = (double)value; //floatVal = 1423210112 if we print. There…
14 сен '14 в 08:17
3
ответа
Как мне анализировать числа с плавающей запятой и удваивать их без учета регистра в C# (для покрытия "бесконечности" и т. Д.)?
В моем регионе, double.Parse("Infinity") возвращается double.PositiveInfinity, но double.Parse("infinity") бросает System.FormatException, Аналогичные вещи случаются для отрицательной бесконечности и NaN. Я мог бы просто использовать CultureInfo.Cur…
18 авг '14 в 14:04
3
ответа
Преобразование одного в двойной
У меня возникла проблема при преобразовании одинарных значений в двойные значения. Синглы, предоставляемые BitStream, представляют собой простые от 2 до 6 десятичных чисел, во многих случаях такие простые, как 0,4, 0,94, 0,6 и т. Д. (Следует отметит…
20 дек '13 в 16:20
2
ответа
Печать с плавающей запятой в C
Возможный дубликат: Выведите 1000000 как 1,000,000 и так далее У меня есть переменная с плавающей точкой в формате xxxxxxxx.xx (например, 11526.99). Я хотел бы напечатать его как 11 562,99 с запятой. Как я могу вставить запятую в C?
30 янв '13 в 04:38
1
ответ
Как мне закончить преобразование с плавающей запятой одинарной точности в десятичную?
Я преобразую C22E8300 из плавающей запятой IEEE 754 с одинарной точностью в десятичную. Сначала я преобразовал в двоичный код: 1100 0010 0010 1110 1000 0011... Рассчитал показатель степени как 5. Мантисса составляет 0,24762 Как мне завершить конверт…
19 ноя '18 в 19:54
2
ответа
Как преобразовать входные данные с плавающей точкой в целые числа и сохранить максимальную точность?
Я должен использовать алгоритм, который ожидает матрицу целых чисел в качестве входных данных. Входные данные имеют реальную ценность, поэтому я хочу преобразовать входные данные в целочисленные, прежде чем передавать их в алгоритм. Я хотел масштаби…
13 сен '12 в 12:22
2
ответа
Float24 (24 бит с плавающей запятой) в Hex?
Я использую float 24 bit для хранения значения с плавающей запятой в компиляторе MRK III из NXP. Он хранит 24-разрядное значение с плавающей запятой как 3-байтовый шестнадцатеричный в памяти данных. Теперь, когда я использую преобразование с плавающ…
14 ноя '14 в 12:32