Описание тега numeric-conversion
2
ответа
Можно ли назначить 4 байта с порядком байтов с порядком байтов без знака в примитиве Java, используя только побитовые операторы?
Я хочу прочитать 4 байта, которые являются прямым порядком кодирования 32-разрядного целого числа без знака, и присвоить значение Java int (Да, на самом деле я буду использовать "long", но в этом случае я "знаю", что значение без знака никогда не бы…
30 сен '10 в 16:36
1
ответ
Как мне преобразовать значение TextView в целое число
Я проектирую базовый калькулятор ИМТ и у меня работает калькулятор, но мне нужно преобразовать вычисленный ответ из TextView, который является двойным, в целое число, чтобы дать мне правильные утверждения с операторами <> на основе вычисленного отве…
27 дек '15 в 14:57
1
ответ
Преобразовать (длинная мантисса) и (показатель степени sbyte) в десятичную
upd разместил мою версию в описании в конце Мне нужно перевести мантиссу и экспоненту в десятичную. Вот как я кодировал это: // long field.Decimal.Mantissa // sbyte field.Decimal.Exponent decimal MDEntryPx = field.Decimal.Mantissa * (decimal)(Math.P…
03 апр '12 в 12:37
1
ответ
Связывание Silverlight XAML - от десятичного до двойного
У меня есть несколько столбцов в DataGridView, у которых для свойства Binding установлено следующее: Binding="{Binding NetPrice}" Проблема в том, что это поле NetPrice является десятичным типом, и я хотел бы преобразовать его в Double внутри DataGri…
20 окт '09 в 21:32
2
ответа
C++ void обратная функция
Мы конвертируем базу 10 в число в другой базе (B). У меня возникли проблемы с функцией void reverse, она не изменит порядок чисел. string convertToBaseB(int num, int b){ int digit; stringstream answer; string x=""; while(num>0){ digit=num%b; num/…
10 апр '15 в 01:06
3
ответа
XSLT сравнивает числа как строки
Фон Недавно я с удивлением заметил, что XSL был в состоянии разумно обрабатывать числа; т.е. умение обращаться с числами в тексте как с числовыми при выполнении сравнений (т.е. 7 < 10 вместо того, чтобы думать '10' < '7'). В моем случае это то…
12 янв '16 в 14:56
0
ответов
swift 2.0 NSDecimalNumber возможное преобразование дискретности в long
Я не могу сделать головы или хвосты этого. Я использую NSDecimalNumber для усечения дробной части из строки. Это работает в большинстве случаев, но не очевидно в случае бесконечных десятичных дробей (или просто слишком много). Вот пример: print(NSDe…
18 дек '15 в 16:27
2
ответа
C++, как установить фиксированную десятичную точность для числа с плавающей запятой
У меня есть вызов API, который возвращает двойной. Десятичная длина двойника может варьироваться от многих десятичных разрядов до нескольких (все сводится к состоянию привода). Этот двойной представляет текущую позицию на радиусе действия привода. Я…
11 июл '11 в 23:23
4
ответа
SQL Server CONVERT(NUMERIC(18,0), '') завершается неудачно, но CONVERT(INT, '') завершается успешно?
PRINT CONVERT(NUMERIC(18,0), '') производит Error converting data type varchar to numeric. Тем не мение, PRINT CONVERT(INT, '') производит 0 без ошибок... Вопрос: есть ли для этого какой-нибудь флаг SQL Server или мне нужно будет делать операторы ca…
27 ноя '09 в 18:17
0
ответов
.NET Двойное хранилище в DataTable?
.NET выглядит так, как будто он форматирует двойной тип в DataRow в неправильном формате, поэтому я не могу загрузить его через секунду. Если я храню "0.000000001",.NET сохраняет его как "1E-09.0", тогда как "1E-09". Поэтому Convert.ToDouble ("1E-09…
15 апр '14 в 08:04
1
ответ
Как конвертировать UInt64 в Int64?
Второй аргумент в этом вызове функции: dispatch_time(DISPATCH_TIME_NOW, NSEC_PER_SEC) вызывает ошибку компилятора: 'UInt64' is not convertible to 'Int64' Swift Ссылка: func dispatch_time(when: dispatch_time_t, delta: Int64) -> dispatch_time_t var…
29 авг '14 в 18:51
6
ответов
Почему 0 <-0x80000000?
У меня ниже простая программа: #include <stdio.h> #define INT32_MIN (-0x80000000) int main(void) { long long bal = 0; if(bal < INT32_MIN ) { printf("Failed!!!"); } else { printf("Success!!!"); } return 0; } Состояние if(bal < INT32_MIN )…
09 дек '15 в 15:31
1
ответ
Как остановить неявное преобразование даты при использовании ifelse с данными даты и времени?
У меня есть фрейм данных, который содержит один столбец, который представляет собой серию дат, собранных с помощью формы Google. Дата и время были собраны отдельно. Данные были введены путем выбора дня в календаре, а дата была введена вручную - это …
12 фев '19 в 01:58
4
ответа
Конвертировать арабский числовой в английский
Я ищу способ преобразования арабской числовой строки "٠١٢٣٤٥٦٧٨٩" в английскую числовую строку "0123456789" Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click dim Anum as string ="٠١٢٣٤٥٦٧٨٩" …
20 мар '12 в 11:17
2
ответа
Ошибка преобразования varchar в числовое значение (но номер отсутствует)
У меня есть таблица с несколькими столбцами, например: CREATE TABLE CRM.INFO_ADICIONAL ( ID_INFO_ADICIONAL NUMBER(10) NOT NULL, NOMBRE VARCHAR2(100 BYTE) NOT NULL, OBLIGATORIO NUMBER(1) NOT NULL, TIPO_DATO VARCHAR2(2 BYTE) NOT NULL, ACTIVO NUMBER(1)…
03 янв '18 в 20:48
7
ответов
Кастинг и Convert.ToInt32() ведут себя по-разному в C#?
Вот простой фрагмент кода на C#: Convert.ToInt32(TimeSpan.FromMinutes(5).TotalMilliseconds); //which brings me 300000 (int)TimeSpan.FromMinutes(5).Milliseconds; //which brings me 0 Зачем кастинг (int) результат отличается по сравнению с Convert.ToIn…
06 дек '11 в 22:35
3
ответа
Введите осведомленную строку для преобразования числа в C++
Давайте предположим, что все числа в этом мире являются положительными целыми числами, и они могут быть представлены типами C++ uintX_t. Давайте рассмотрим следующий потрясающий код для преобразования std::string в число: #include <string> #in…
01 июл '14 в 14:35
1
ответ
Как разделить числа на целые и дробные части в схеме?
Я хочу функцию number->second-pair который принимает число и возвращает пару целых чисел, представляющих его целую часть и дробную часть, умноженную на 1000000. то есть: (number->second-pair 1) ; returns (1 . 0) ; 1 sec -> (1 sec + 0 usec) …
04 апр '13 в 09:22
1
ответ
Преобразовать коэффициент в числовой в Bash
Каков наиболее эффективный способ преобразования факторного вектора (не все уровни уникальны) в числовой вектор в bash? Значения в числовом векторе не имеют значения, поскольку каждое из них представляет уникальный уровень фактора. Чтобы проиллюстри…
05 окт '15 в 14:22
7
ответов
Является ли более эффективным выполнение проверки диапазона путем приведения к uint вместо проверки на отрицательные значения?
Я наткнулся на этот кусок кода в исходном коде списка.NET: // Following trick can reduce the range check by one if ((uint) index >= (uint)_size) { ThrowHelper.ThrowArgumentOutOfRangeException(); } Видимо, это более эффективно (?), Чем if (index &…
30 мар '15 в 10:10