Описание тега quantization-aware-training

1 ответ

Почему параметры, сохраненные в КПП, отличаются от параметров в объединенной модели?

Я тренировал QAT (Обучение с учетом квантования) на основе модели в Pytorch, обучение прошло гладко. Однако когда я попытался загрузить веса в объединенную модель и запустить тест на наборе данных с более широким кругом, я столкнулся с множеством ош…
28 янв '20 в 06:29
0 ответов

Обучение с учетом квантования с tf.GradientTape дает ошибку в TensorFlow2.0

Я использую TensorFlow-2.2, tensorflow_model_optimization и Python 3.8. Я пытаюсь квантовать и обучать нейронную сеть LeNet-300-100 Dense, которая содержит разреженность 91,3375%. Это означает, что 91,3375% весов равны нулю. Я следил за учебником Qu…
1 ответ

Можем ли мы использовать TF-lite для переобучения?

Я преобразовал предварительно обученную модель в TF-lite и хотел бы развернуть ее на периферийном устройстве. Если мы получили новые данные для обучения и хотели бы улучшить предварительно обученную модель, можно ли это сделать на пограничном устрой…
2 ответа

Обучение квантованию в TensorFlow версии 2 и сворачивании BatchNorm

Мне интересно, каковы текущие доступные параметры для имитации сворачивания BatchNorm во время обучения квантованию в Tensorflow 2. Tensorflow 1 имеет tf.contrib.quantize.create_training_graphфункция, которая вставляет слои FakeQuantization в график…
0 ответов

Как правильно квантовать CNN в 4-битное с помощью Tensorflow QAT?

Я пытаюсь выполнить 4-битное квантование и использовал этот пример. Прежде всего, я получил следующие предупреждения: WARNING:tensorflow:AutoGraph could not transform <bound method Default8BitQuantizeConfig.set_quantize_activations of <tensorf…
0 ответов

Layer up_sampling2d: <class 'tensorflow.python.keras.layers.convolutional.UpSampling2D'> не поддерживается

Я пытаюсь реализовать UNet для семантической сегментации, который может работать на Google Coral edgetpu. Для этого нам нужна квантованная модель, которую можно получить с помощью API tensorflow_model_optimization. Но при использовании API существуе…
0 ответов

Не работает с обучением с учетом квантования или квантованием после обучения

Я начинающий. У меня проблема, которую я не могу решить, и у меня большие проблемы. Я хочу, чтобы ты мне сказал. Я хочу обнаружить объект на своем Raspberry Pi. Я хочу выполнить модель вывода на Edge TPU. 1. Постройте новую модель из изученной модел…
25 апр '20 в 15:57
1 ответ

Как написать несколько настроек обучения в PyTorch Lightning

Я хочу итеративно квантовать свою модель. Это означает, что после обычного цикла обучения, который обычно реализуется вtraining_step Я хотел бы итеративно квантовать некоторые параметры и переобучить модель за пару шагов. Я действительно не понимаю,…
0 ответов

Максимальное значение Relu6 больше 6 в сверточных слоях квантованной мобильной сети с квантованным обучением.

Я использую tensorflow slim для обучения пользовательской модели mobilenet_v1_1.0_224_quant для своего проекта. Я использовал эту команду: python train_image_classifier.py --train_dir=TRAINDIR --dataset_dir=classes_data --dataset_name=classes --data…
1 ответ

Обучение квантованию для модели Tensorflow Keras

Я хочу тренироваться с учетом квантования с моей моделью keras. Я пробовал, как показано ниже. Я использую тензорный поток 1.14.0 train_graph = tf.Graph() train_sess = tf.compat.v1.Session(graph=train_graph) tf.compat.v1.keras.backend.set_session(tr…
1 ответ

Приводит ли обучение с учетом квантования Tensorflows к фактическому ускорению во время обучения?

Мы изучаем возможность использования обучения с учетом квантования для исследовательского проекта, чтобы определить влияние квантования во время обучения на скорость сходимости и время выполнения. Однако мы еще не полностью уверены, что это правильн…
0 ответов

Квантовать керасы входного слоя

Есть ли способ квантовать осведомленный поезд слоя ввода Keras?. Измените его с float32 на Uint8? Я переобучил и полностью квантовал Resnet, но не могу изменить входной уровень на Uint8. Это невозможно сделать в репрезентативном наборе данных. def r…
1 ответ

Пакетная нормализация Quantize Tensorflow 1.x не имеет информации MinMax

Слой (....), который является входом для оператора Conv, создающего модель выходного массива /re_lu_1/Relu, не имеет данных min/max, которые необходимы для квантования. Если точность имеет значение, либо нацельтесь на неквантованный выходной формат,…
0 ответов

Tensorflow не может квантовать функцию изменения формы

Я собираюсь обучить мою модель квантованию. Однако, когда я его использую, tenorflow_model_optimization не может квантовать функцию tf.reshape и выдает ошибку. версия tenorflow: '2.4.0-dev20200903' версия python: 3.6.9 код: import os os.environ['CUD…
1 ответ

std.constant'op требует, чтобы тип атрибута соответствовал типу возврата op

Я пытаюсь преобразовать модель keras, которую я обучил и точно настроил с помощью учебного пособия по квантованию на их официальном сайте, в модель intflite. Я могу следовать их шагам, пока мне не придется преобразовать модель в формат tflite. Затем…
1 ответ

Как переобучить модель обнаружения и квантовать ее для Intel Movidius?

Я хочу переобучить существующую модель обнаружения объектов с новым набором данных изображения и квантовать его для Intel Movidius. Есть ли какая-то рабочая процедура для этого? Я успешно переобучил модель, но не смог ее квантовать. Я следовал следу…
1 ответ

Как реализовать вывод TF Lite в Python

В исследовательских целях я пытаюсь понять, как TF Lite делает свои выводы. Меня интересует только программная логика. Я использую TensorFlow 2.1 и TensorFlow Model Optimization 0.3.0. В качестве примера я использую очень простую полностью подключен…
0 ответов

Алгебраическая операция над квантованной моделью

Системная информация Версия TensorFlow (вы используете):'1.15.0' Вы готовы внести свой вклад (да / нет): Мотивация Включение операций над алгебраическими операциями над квантованной моделью, помощь во многих приложениях, таких как федеративное обуче…
08 июн '20 в 10:27
0 ответов

Модель QAT более низкая точность, чем модель квантования после поезда

Версия TensorFlow (устанавливается из исходных кодов или двоичного кода): 2.3.0.dev20200609 (двоичный) Версия TensorFlow Model Optimization (устанавливается из исходного кода или двоичного кода):0.3.0 (двоичный файл) Версия Python:3.6.9 Я пытаюсь ср…
0 ответов

Квантование еще не поддерживается для op: 'DEQUANTIZE' для tensorflow 2.x

Я провожу QAT by keras на модели resnet, и у меня возникла эта проблема при преобразовании в полностью целочисленную модель tflite. Я пробовал последнюю версию tf-nightly, но это не решает проблему. Я использую аннотированную модель квантования для …