Описание тега arithmetic-overflow
Происходит, когда вычисление дает результат, выходящий за пределы диапазона значений, которые данное место хранения может хранить или представлять. Рекомендуется также помечать вопросы соответствующими типами данных, такими как [целое число] или [с плавающей точкой]. См. Также: [целочисленное переполнение].
2
ответа
Избегайте арифметического переполнения Instant.toEpochMilli()
Вызов JDK Instant.toEpochMilli() может привести к арифметическому переполнению Instant.MAX.toEpochMilli() или же Instant.MIN.toEpochMilli()). Я ищу простой способ избежать арифметического переполнения и просто использовать Long.MAX_VALUE, Вот мой те…
17 апр '17 в 22:16
2
ответа
Не число (NaN)
Почему некоторые числа определены как не число (NaN) в арифметике с плавающей запятой? (Хотя они могут быть представлены в формате IEEE и действительно являются действительными числами)
09 ноя '18 в 10:00
1
ответ
Диктонарный возвращаемый объект с числом -1 ArithemeticFlowException
Я столкнулся с проблемой переполнения арифметики. Я разместил подробности в этом вопросе [ Dictonary to ToList ArithmeticFlowException Однако я нашел причину, когда я вызываю метод Global.SereverConnections.TryGetValue(key, out connections); он гене…
21 авг '17 в 10:52
0
ответов
Ошибка арифметического переполнения sql
Первоначально я импортировал эти файлы с помощью мастера импорта и экспорта из файла с фиксированной шириной. Я планировал указать поле, фирмы, как числовые (8,0), но я получаю ошибку об ошибке преобразования типов данных. Поэтому я изменил его varc…
17 окт '17 в 17:02
1
ответ
Ошибка арифметического переполнения для типа int, значение = 4957500001.400178
Я знаю, что подобные вопросы задавались снова в прошлом, но я думаю, что мой случай немного отличается. У меня есть столбец, который имеет логарифмические значения, и я пытаюсь инвертировать их, используя следующую формулу:SELECT POWER(10,CAST(9.695…
13 июн '18 в 09:21
0
ответов
Арифметическое переполнение в расчете MIPS
Это домашняя проблема, и поскольку я не знаю, где искать, я прилагаю свой код, чтобы посмотреть, сможете ли вы, ребята, помочь. Нас просят написать программу для расчета e^x по формуле e^x = 1 + x/1 + x^2/2! + х ^3/3! + ... Итак, я все это сделал, и…
23 апр '18 в 15:16
1
ответ
Не могу добавить два 32-битных числа на MIPS
Я пытаюсь написать код, который позволяет добавить 2 числа, даже если они имеют длину 32 бита. Однако моя программа не будет работать, если я добавлю два 32-битных числа или если я добавлю два числа, которые составляют 32-битное число (например, 2bi…
30 мар '19 в 21:09
0
ответов
Ошибка компилятора MSVC при добавлении 0 к указателю с помощью /arch:AVX2; связано с предупреждением C26451
У меня возникла ошибка после компиляции приведенного ниже фрагмента кода с флагами /O2, /Ob2, /arch:AVX2. Я использую Microsoft Visual Studio Community 2019 версии 16.4.6 на Win64. Выполнение приведенного ниже фрагмента кода приводит к следующему ре…
13 мар '20 в 12:29
3
ответа
предотвратить арифметическое переполнение
Я хочу рассчитать напряжение с помощью периферийного АЦП PIC18F14K50. Результат находится в диапазоне от 0 до 1023 (10 бит). Итак, я использовал этот простой расчет: uint16_t voltage = ADC_Result * 5000 / 1023; Однако результаты неверны. Я предполаг…
19 июн '20 в 18:59
1
ответ
сбой хранимой процедуры: "Ошибка арифметического переполнения при преобразовании varchar в числовой тип данных". ошибка, хотя я явно указывал все поля
Я потратил слишком много времени на то, чтобы заставить работать этот хранимый процесс, он в основном переводит результаты запроса в формат html, который отправляется по электронной почте. Запрос, из которого процесс собирает данные, работает нормал…
14 июл '20 в 17:21
3
ответа
C#: добавление двух больших целых чисел дает неправильный результат
Итак, у меня есть код, который складывает два целых числа и выводит результат: Console.WriteLine("enter number: "); int intTemp = Convert.ToInt32(Console.ReadLine()); long sum = intTemp + 5; Console.WriteLine($"sum is : {sum}"); Но если в консоли я …
03 мар '20 в 16:01
1
ответ
Как избавиться от арифметического переполнения
Это код проблемы с треугольником в кодировке, из-за которой я получаю ошибку арифметического переполнения. int solution(vector<int> &A) { int i, n; n=A.size(); sort(A.begin(), A.end()); for(i=0; i<n-2; i++) { if((A[i]+A[i+1]>A[i+2])&…
03 июн '20 в 12:34
1
ответ
Преобразование арифметического переполнения в int при вставке 2147483648 или больше в столбец decimal(18,6) в таблице базы данных SQL Server
У меня возникла эта проблема в SQL Server 2012, но она также проявляется в SQL Server 2017. Моя таблица базы данных, назовите это MyTable, содержит decimal(18,6) столбец new_balance, который не допускает значения NULL. Таблица также содержит два цел…
17 июл '20 в 19:58
1
ответ
Ожидается арифметическое переполнение, но не происходит
(Я использую Rust 1.44.1) Следующий пример не может быть построен (режим отладки) из-за арифметического переполнения (и я понимаю, почему): fn main() { let i: u8 = 255 + 1; } error: this arithmetic operation will overflow --> src/main.rs:2:17 | 2…
23 июл '20 в 16:25
1
ответ
Как исправить ошибку арифметического переполнения при преобразовании nvarchar в числовой для числового типа данных sql (9, 4)?
У меня есть значение 2800320, которое мне нужно вставить в таблицу для типа данных numeric(9, 4). В коде, который я дал какfloat.Parse(record.Substring(i, 8)).Когда я вставляю в sql ошибку арифметического переполнения. Подскажите, пожалуйста, как эт…
28 мар '20 в 08:50
1
ответ
Ошибка арифметического переполнения при запуске Update-Database EFCore
Я получаю эту ошибку во время работы Update-Database в EF Core: Ошибка арифметического переполнения при преобразовании числового типа данных в числовой.Заявление было прекращено. Этот сегмент SQL также выделен. Не удалось выполнить DbCommand (10 мс)…
25 окт '20 в 09:00
0
ответов
Ошибка арифметического переполнения при преобразовании числового типа данных в числовой тип данных в SQL Server [закрыто]
SELECT CAST(12.99999 * 12.88888888888 AS numeric(15, 4)) При запуске этого запроса отображается ошибка Ошибка арифметического переполнения при преобразовании числового типа данных в числовой тип данных
20 апр '21 в 14:33
3
ответа
Как предотвратить повреждение внутреннего состояния класса арифметическим переполнением?
У меня в классе два int поля и, а также метод, который увеличивает оба этих поля на dx а также dyсоответственно. Я хотел бы предотвратить повреждение состояния моего класса из-за молчаливого арифметического переполнения (что привело бы к отрицательн…
05 сен '21 в 09:10
1
ответ
Арифметическое переполнение в зависимости от группировки по столбцам
Я получаю эту ошибку, но только при группировке по определенным столбцам: Arithmetic overflow error converting expression to data type int. И я не могу уложить в голове, почему. Это запрос, вызывающий это (виновником является функция суммы): SELECT …
20 янв '22 в 17:52
2
ответа
Арифметическое переполнение с использованием всех 32-битных целых чисел в С++?
Это должно быть просто добавление 1 к беззнаковому целому числу: prev = nums[nextIndex + 1];но выдает предупреждение Арифметическое переполнение: использование оператора «+» для 4-байтового значения и последующее приведение результата к 8-байтовому …
18 июл '21 в 23:19