Описание тега iec10967
ISO/IEC 10967, Независимая от языка арифметика (LIA), представляет собой серию стандартов по компьютерной арифметике. Он совместим с ISO/IEC/IEEE 60559:2011, более известным как IEEE 754-2008, и на самом деле большая часть спецификаций предназначена для специальных значений IEEE 754 (хотя такие значения не требуются самим LIA, если параметр iec559 не равен true). / через WikiPedia
2
ответа
Как сделать целое число "больше"?
Я новичок в C# и работаю над калькулятором в Windows Forms. Я столкнулся с проблемой, при которой я получаю один из этих отладочных сообщений после того, как 10 или более цифр введены в интерфейс. Это говорит кое-что об исключении переполнения систе…
30 апр '14 в 04:02
2
ответа
Почему IEEE-754 решил, что NaN!= NaN, несмотря на свою нелогичность?
Это дополнительный вопрос к тому, что является обоснованием для всех сравнений, возвращающих false для значений NaN IEEE754? (Я думаю, что это лучше, как другой вопрос, чем комментарий). У него очень хороший ответ, в котором упущена ровно одна важна…
11 июн '16 в 17:03
14
ответов
Каково обоснование для всех сравнений, возвращающих ложь для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя иначе, чем все другие значения? То есть все сравнения с операторами ==, <=, >=, <,>, где одним или обоими значениями является NaN, возвращают false, что противоречит поведению всех других значений. Я предпола…
14 окт '09 в 09:19
67
ответов
Как посчитать количество установленных бит в 32-битном целом числе?
8 битов, представляющих число 7, выглядят так: 00000111 Три бита установлены. Какие существуют алгоритмы для определения количества установленных бит в 32-битном целом числе?
20 сен '08 в 19:04
3
ответа
Длинное целое число преобразуется при вставке в более короткий столбец, не обрезается. Зачем? Какая формула?
У меня есть столбец типа integer длиной 10: `some_number` int(10) unsigned NOT NULL В этот столбец я вставляю слишком длинный номер: $some_number = 715988985123857; $query = "INSERT INTO this_table SET some_number = ?"; $stmt = $mysqli->prepare($…
08 май '14 в 18:53
1
ответ
Предел умножения целых чисел для библиотеки GMP
Я пытался умножить два очень больших mpz_tвместе, каждый из 2^(10*2^22) bits, с использованием mpz_mul функция в библиотеке GMP. Не было ошибки сегментации, и умножение удалось пройти. Однако, когда я выводил результат умножения в файл, все, что я н…
12 сен '14 в 00:25
3
ответа
Битовые трюки, чтобы найти первую позицию, где число 0 равно числу 1
Предположим, у меня есть 32- или 64-разрядное целое число без знака. Каков самый быстрый способ найти индекс i самого левого бита, чтобы число 0 в крайних левых битах равнялось числу 1 в крайних левых битах? Я думал о некоторых хитростях, подобных у…
02 дек '16 в 13:27