Описание тега quantization-aware-training
1
ответ
Почему параметры, сохраненные в КПП, отличаются от параметров в объединенной модели?
Я тренировал QAT (Обучение с учетом квантования) на основе модели в Pytorch, обучение прошло гладко. Однако когда я попытался загрузить веса в объединенную модель и запустить тест на наборе данных с более широким кругом, я столкнулся с множеством ош…
28 янв '20 в 06:29
0
ответов
Обучение с учетом квантования с tf.GradientTape дает ошибку в TensorFlow2.0
Я использую TensorFlow-2.2, tensorflow_model_optimization и Python 3.8. Я пытаюсь квантовать и обучать нейронную сеть LeNet-300-100 Dense, которая содержит разреженность 91,3375%. Это означает, что 91,3375% весов равны нулю. Я следил за учебником Qu…
12 июл '20 в 13:50
1
ответ
Можем ли мы использовать TF-lite для переобучения?
Я преобразовал предварительно обученную модель в TF-lite и хотел бы развернуть ее на периферийном устройстве. Если мы получили новые данные для обучения и хотели бы улучшить предварительно обученную модель, можно ли это сделать на пограничном устрой…
19 июн '20 в 05:18
2
ответа
Обучение квантованию в TensorFlow версии 2 и сворачивании BatchNorm
Мне интересно, каковы текущие доступные параметры для имитации сворачивания BatchNorm во время обучения квантованию в Tensorflow 2. Tensorflow 1 имеет tf.contrib.quantize.create_training_graphфункция, которая вставляет слои FakeQuantization в график…
27 мар '20 в 13:13
0
ответов
Как правильно квантовать CNN в 4-битное с помощью Tensorflow QAT?
Я пытаюсь выполнить 4-битное квантование и использовал этот пример. Прежде всего, я получил следующие предупреждения: WARNING:tensorflow:AutoGraph could not transform <bound method Default8BitQuantizeConfig.set_quantize_activations of <tensorf…
16 апр '20 в 21:06
0
ответов
Layer up_sampling2d: <class 'tensorflow.python.keras.layers.convolutional.UpSampling2D'> не поддерживается
Я пытаюсь реализовать UNet для семантической сегментации, который может работать на Google Coral edgetpu. Для этого нам нужна квантованная модель, которую можно получить с помощью API tensorflow_model_optimization. Но при использовании API существуе…
24 апр '20 в 13:47
0
ответов
Не работает с обучением с учетом квантования или квантованием после обучения
Я начинающий. У меня проблема, которую я не могу решить, и у меня большие проблемы. Я хочу, чтобы ты мне сказал. Я хочу обнаружить объект на своем Raspberry Pi. Я хочу выполнить модель вывода на Edge TPU. 1. Постройте новую модель из изученной модел…
25 апр '20 в 15:57
1
ответ
Как написать несколько настроек обучения в PyTorch Lightning
Я хочу итеративно квантовать свою модель. Это означает, что после обычного цикла обучения, который обычно реализуется вtraining_step Я хотел бы итеративно квантовать некоторые параметры и переобучить модель за пару шагов. Я действительно не понимаю,…
12 май '20 в 19:20
0
ответов
Максимальное значение Relu6 больше 6 в сверточных слоях квантованной мобильной сети с квантованным обучением.
Я использую tensorflow slim для обучения пользовательской модели mobilenet_v1_1.0_224_quant для своего проекта. Я использовал эту команду: python train_image_classifier.py --train_dir=TRAINDIR --dataset_dir=classes_data --dataset_name=classes --data…
30 мар '20 в 07:49
1
ответ
Обучение квантованию для модели Tensorflow Keras
Я хочу тренироваться с учетом квантования с моей моделью keras. Я пробовал, как показано ниже. Я использую тензорный поток 1.14.0 train_graph = tf.Graph() train_sess = tf.compat.v1.Session(graph=train_graph) tf.compat.v1.keras.backend.set_session(tr…
31 мар '20 в 04:25
1
ответ
Приводит ли обучение с учетом квантования Tensorflows к фактическому ускорению во время обучения?
Мы изучаем возможность использования обучения с учетом квантования для исследовательского проекта, чтобы определить влияние квантования во время обучения на скорость сходимости и время выполнения. Однако мы еще не полностью уверены, что это правильн…
19 июн '20 в 14:43
0
ответов
Квантовать керасы входного слоя
Есть ли способ квантовать осведомленный поезд слоя ввода Keras?. Измените его с float32 на Uint8? Я переобучил и полностью квантовал Resnet, но не могу изменить входной уровень на Uint8. Это невозможно сделать в репрезентативном наборе данных. def r…
22 авг '20 в 15:52
1
ответ
Пакетная нормализация Quantize Tensorflow 1.x не имеет информации MinMax
Слой (....), который является входом для оператора Conv, создающего модель выходного массива /re_lu_1/Relu, не имеет данных min/max, которые необходимы для квантования. Если точность имеет значение, либо нацельтесь на неквантованный выходной формат,…
01 сен '20 в 06:58
0
ответов
Tensorflow не может квантовать функцию изменения формы
Я собираюсь обучить мою модель квантованию. Однако, когда я его использую, tenorflow_model_optimization не может квантовать функцию tf.reshape и выдает ошибку. версия tenorflow: '2.4.0-dev20200903' версия python: 3.6.9 код: import os os.environ['CUD…
04 сен '20 в 11:21
1
ответ
std.constant'op требует, чтобы тип атрибута соответствовал типу возврата op
Я пытаюсь преобразовать модель keras, которую я обучил и точно настроил с помощью учебного пособия по квантованию на их официальном сайте, в модель intflite. Я могу следовать их шагам, пока мне не придется преобразовать модель в формат tflite. Затем…
12 июн '20 в 12:52
1
ответ
Как переобучить модель обнаружения и квантовать ее для Intel Movidius?
Я хочу переобучить существующую модель обнаружения объектов с новым набором данных изображения и квантовать его для Intel Movidius. Есть ли какая-то рабочая процедура для этого? Я успешно переобучил модель, но не смог ее квантовать. Я следовал следу…
12 июн '20 в 18:51
1
ответ
Как реализовать вывод TF Lite в Python
В исследовательских целях я пытаюсь понять, как TF Lite делает свои выводы. Меня интересует только программная логика. Я использую TensorFlow 2.1 и TensorFlow Model Optimization 0.3.0. В качестве примера я использую очень простую полностью подключен…
17 май '20 в 13:19
0
ответов
Алгебраическая операция над квантованной моделью
Системная информация Версия TensorFlow (вы используете):'1.15.0' Вы готовы внести свой вклад (да / нет): Мотивация Включение операций над алгебраическими операциями над квантованной моделью, помощь во многих приложениях, таких как федеративное обуче…
08 июн '20 в 10:27
0
ответов
Модель QAT более низкая точность, чем модель квантования после поезда
Версия TensorFlow (устанавливается из исходных кодов или двоичного кода): 2.3.0.dev20200609 (двоичный) Версия TensorFlow Model Optimization (устанавливается из исходного кода или двоичного кода):0.3.0 (двоичный файл) Версия Python:3.6.9 Я пытаюсь ср…
25 июн '20 в 15:04
0
ответов
Квантование еще не поддерживается для op: 'DEQUANTIZE' для tensorflow 2.x
Я провожу QAT by keras на модели resnet, и у меня возникла эта проблема при преобразовании в полностью целочисленную модель tflite. Я пробовал последнюю версию tf-nightly, но это не решает проблему. Я использую аннотированную модель квантования для …
28 авг '20 в 09:22