Самый быстрый способ выполнить команду SQL из C#

Я борюсь с базой данных SQL Server, где я хочу сохранить ссылки, к которым я добавляю цены от нескольких поставщиков.

Я читаю из .xlsx ссылка на файл и цена и сохранение цен в базе данных SQL Server. Я должен проверить, если ссылка уже существует - если да, я обновлю, если нет, то мне нужно вставить.

Для вставки / обновления одной базы данных требуется около 100-120 мсек - большую часть времени занимает ExecuteReader (пробовал также с ExecuteNonQuery) около 70 мс

Мой вопрос: есть ли возможность сделать это быстрее? Обновление 1.000.000 ссылок может занять около 33 часов...

Вот код:

string ref;
string price;

cs.Open();

for (int i = 1; i < lastRow; i++)
{
    ref = (xlWorksheet.Cells[i, 1] as Excel.Range).Value2.ToString();
    price = (xlWorksheet.Cells[i, 2] as Excel.Range).Value2.ToString();
    price = price.Replace(',', '.');

    command = new SqlCommand("UPDATE ORG SET "+supplierName+" = '" + price + "' WHERE REFERENCJE = '" + ref + "'"
            + " IF @@ROWCOUNT = 0"
            + " INSERT INTO ORG(" + supplierName + ", REFERENCJE)"
            + " VALUES('" + price + "', '" + ref + "') ", cs);
            command.ExecuteReader().Close(); //consume circa 75ms
}

cs.Close();

Извините за мой английский.

Проблема решена (конечно, спасибо вам, ребята). Я предложил вам - я решил создать временную таблицу и поместить туда все импортированные данные. Далее объединяем его с основным столом. Также я изменил импорт из .xlsx от 1 элемента до диапазона 2 столбцов и 100 строк одновременно, которые я положил в DataTable и вставьте его с batch метод. Возможно, мое решение кому-нибудь поможет. Я обновил 1.000.000 записей менее чем за 15 минут.

Код:

//checking if temp table exists, if not creates it
        command = new SqlCommand("IF NOT (EXISTS (SELECT *"
                         + " FROM INFORMATION_SCHEMA.TABLES"
                         + " WHERE TABLE_NAME = '" + tempTable + "')) CREATE TABLE " + tempTable + "(REFERENCJE VARCHAR(255), PRODUCENT VARCHAR (255), price VARCHAR(255));", cs);
        cs.Open();
        command.ExecuteNonQuery();
        cs.Close();
        for (int i = 1; ; i++)
        {
            //get 2 columns from Excel file with 100 rows and store it in array 
            Excel.Range range = null;
            if (i * 100 > lastRow)
                range = xlWorksheet.Range["A" + ((i - 1) * 100 + 1), "B" + lastRow];
            else
                range = xlWorksheet.Range["A" + ((i - 1) * 100 + 1), "B" + (i * 100)];
            Array myValues = (System.Array)range.Cells.Value2;

            //rewrites Array to DataTable   
            for (int j = 1; j < myValues.Length / 2; j++)
            {
                rowInsert = tabelaInsert.NewRow();
                rowInsert["ref"] = myValues.GetValue(j, 1).ToString();
                rowInsert["price"] = myValues.GetValue(j, 2).ToString();
                rowInsert["prod"] = orgProd;
                tabelaInsert.Rows.Add(rowInsert);
            }


            batchowanieInsert(tabelaInsert, supplierName, tempTable);
            tabelaInsert.Clear();

            if (i * 100 > lastRow)
                break;

        }

        //SQL MERGE 2 tables
        command = new SqlCommand("MERGE ORG AS TARGET"
            + " USING " + tempTable + " AS SOURCE"
            + " ON(TARGET.REFERENCJE = SOURCE.REFERENCJE)"
            + " WHEN MATCHED AND TARGET." + supplierName + " <> SOURCE.CENA THEN"
            + " UPDATE SET TARGET." + supplierName + " = SOURCE.CENA,"
            + " TARGET.PRODUCENT = SOURCE.PRODUCENT"
            + " WHEN NOT MATCHED BY TARGET THEN"
            + " INSERT(REFERENCJE, PRODUCENT, " + supplierName + ")"
            + " VALUES(SOURCE.REFERENCJE, SOURCE.PRODUCENT, SOURCE.CENA);", cs);
        cs.Open();
        command.ExecuteNonQuery();
        cs.Close();

        //DELETING temp table
        command = new SqlCommand("DROP TABLE " + tempTable, cs);
        cs.Open();
        command.ExecuteNonQuery();
        cs.Close();


        //batchowanieInsert function
        public void batchowanieInsert(DataTable tabela, string supplierName, string tempTable)
        {
            da.UpdateBatchSize = tabela.Rows.Count;
            da.InsertCommand = new SqlCommand("INSERT INTO " + tempTable + " (REFERENCJE, PRODUCENT, CENA) VALUES (@REFERENCJE, @PRODUCENT, @CENA)", cs);
            da.InsertCommand.Parameters.Add("@REFERENCJE", SqlDbType.VarChar, 20, "ref");
            da.InsertCommand.Parameters.Add("@PRODUCENT", SqlDbType.VarChar, 20, "prod");
            da.InsertCommand.Parameters.Add("@CENA", SqlDbType.VarChar, 20, "price");
            da.InsertCommand.UpdatedRowSource = UpdateRowSource.None;
            da.Update(tabela);
        }
Источник

2 ответа

Решение

  1. Импортируйте все свои данные во временную таблицу (вы можете использовать несколько операторов INSERT, SqlServer работает лучше с пакетами по ~100 записей)

  2. ОБНОВЛЕНИЕ ГДЕ СУЩЕСТВУЕТ

  3. ВСТАВИТЬ ГДЕ НЕ СУЩЕСТВУЕТ

Источник

Цикл по отдельным ячейкам Excel всегда приводит к неэффективности. Я бы предложил либо:

  1. Импортируя данные в таблицу SQL, затем выполните проверку с помощью оператора SELECT, а не @@ROWCOUNT (помните, @@ ROWCOUNT - это сообщение, возвращаемое с сервера и передаваемое на клиентскую сторону для каждой вставляемой строки). Вместо этого используйте @NOCOUN, чтобы отключить ответ сервера.

  2. Или рассмотрите возможность использования CSV вместо книги Excel.

Источник
Другие вопросы по тегам