Описание тега quantization
Используйте этот тег для вопросов, связанных с квантованием любого типа, например, с векторным квантованием.
1
ответ
Квантование сложного сигнала с помощью равномерного квантователя в Matlab
У меня есть сигнал, который имеет сложное нормальное распределение со средним 0 и дисперсией 1. Я хочу квантовать его с помощью равномерного квантователя до 512 уровней. Я генерирую сигнал в MATLAB следующим образом: s = sqrt(0.5).*(randn(1,numBits)…
25 сен '15 в 08:32
2
ответа
Как включить альфа-канал для расчета разницы цветов с помощью Spatial CIELAB (S-CIELAB)?
Конечно, я знаю, как конвертировать RGB в LAB и LAB в RGB, расчет разницы в цветах упоминается по адресу https://en.wikipedia.org/wiki/Color_difference. Тем не менее, ничего не говорится о непрозрачности. Я хотел бы знать, как преобразовать RGBA в L…
04 дек '18 в 03:16
0
ответов
Получить диапазон при использовании функции uencode() в Matlab
Я использую uencode для квантования матрицы следующим образом: quantized = uencode(impact_factor_matrix,5); где impact_fator_matrix - матрица 512x512 значений с плавающей запятой, в основном между 0 и 3, небольшой фрагмент этой матрицы выглядит след…
28 июл '14 в 12:10
2
ответа
Какой самый быстрый алгоритм цветового квантования для Android?
Я использую алгоритм квантования NeuQuant ( https://code.google.com/p/android-gif-project/source/browse/trunk/GIFproject1/src/com/ui/NeuQuant.java?r=5) для уменьшите JPEG до 256-цветного изображения, но оно будет очень медленным (~1 секунда для изоб…
26 июн '14 в 07:07
0
ответов
tf.fake_quant_with_min_max_vars - это дифференцируемая функция?
Схемы квантования обычно недифференцируемы, потому что они проходят через порог, такой как функция округления или знака. Это означает, что мы не можем получить градиент обучаемых переменных из-за природы правила цепочки. Вместо этого мы можем исполь…
14 окт '18 в 21:14
1
ответ
Почему матрицы квантования JPEG асимметричны?
Почему базовые блоки, соответствующие отраженным волнам в матрице квантования, имеют случайные приоритеты в стандартных матрицах квантования JPEG. Кроме того, почему приоритеты не являются монотонными по отношению к частоте? Я не смог найти никакого…
05 май '14 в 16:46
1
ответ
ppmtogiff: для обхода многих цветов
Я работаю над сценарием, который берет образ.xwd, запускает на нем wxdtopnm, а затем передает его в ppmtogif. В принципе: exec wxdtopnm < file.xwd | ppmtogif > file.gif Однако иногда я получаю ошибку ppmtogiff: to many colors - try doing a 'pp…
11 июн '13 в 17:47
1
ответ
Обучаем модель в Керасе с недифференцируемым слоем
Как я могу обучить глубокую нейронную сеть в Кера (Tensorflow) со слоем квантования в середине? т.е. я хочу сделать квантование представления в определенном слое сети (используя векторное квантование) и затем перейти к следующему уровню.
19 июл '17 в 19:22
1
ответ
Извлечение цвета, количественная оценка и анализ из изображения в R
Я бы хотел quantifying colors in an image, Я работаю над переливом перламутра (перламутром) и хочу определить три цвета (красный, желтый и зеленый) для этой оболочки (например, справа на картинке по ссылке выше). Радужность перламутра Итак, я провер…
07 фев '17 в 19:28
1
ответ
Как оценить количество кластеров для цветового квантования с помощью kmeans2
Я хочу квантовать некоторые изображения с помощью алгоритма kmeans2. Моя проблема состоит в том, чтобы найти (почти) лучшее количество кластеров. У кого-нибудь есть идеи, как оценить количество кластеров? Моя идея состоит в том, чтобы создать кумуля…
19 ноя '12 в 17:18
2
ответа
Используйте значение тензора для изменения другого тензора во время выполнения
В TensorFlow я хотел бы применить одну из "поддельных" функций квантования к одному из моих тензоров. Конкретно я заинтересован в использовании этой функции: fake_quant_with_min_max_args( inputs, min=-6, max=6, num_bits=8, narrow_range=False, name=N…
28 ноя '17 в 17:44
1
ответ
Что такое параметр "n" в сегменте DQT спецификации JPEG?
Я нахожусь в процессе написания декодера файла JPEG, чтобы узнать о работе файлов JPEG. Работая через ITU-T81, который определяет JPEG, я столкнулся со следующим относительно DQT сегмент для таблиц квантования: Во многих сегментах JPEG есть n параме…
24 июн '18 в 05:10
1
ответ
Оценка модели keras с квантованными весами после обучения
У меня есть модель, обученная керасу, и она сохраняется в виде файла.h5. Модель обучается с использованием значений с плавающей запятой одинарной точности и тензорного бэкэнда. Теперь я хочу реализовать аппаратный ускоритель, который выполняет опера…
15 окт '18 в 14:30
1
ответ
Деквантование изображения в Java, дающее случайные очки красным, зеленым или синим цветом на изображении
Я очень новичок в Java и обработке изображений. Я пытаюсь взять DCT(дискретное косинусное преобразование) из 8*8 блоков, а затем выполнить квантование, а затем получить исходное изображение путем деквантования с последующим IDCT. Но мое окончательно…
16 окт '15 в 06:22
0
ответов
Понижение точности при обнаружении объекта Tensorflow после квантования
Я выполняю точную настройку SSD Mobilenet v2 для настраиваемого набора данных. Я тонко настраиваю модель для шагов 50k, и тренировка, учитывающая квантование, запускается при числе шагов 48k. graph_rewriter { quantization { delay: 48000 weight_bits:…
10 дек '18 в 19:06
0
ответов
Ошибка в квантовании изображения с использованием NQUANT
Я недавно приобрел NuGet Package Nquant. Я планирую использовать это, чтобы уменьшить размер файла растрового изображения и сохранить его в PNG. Но я получаю эту ошибку: Изображение, которое вы пытаетесь квантовать, не содержит 32-битную палитру ARG…
17 янв '19 в 05:57
1
ответ
Как исправить ошибку "Ошибка TOCO. Проверка не удалась: dim >= 1 (0 против 1)" при преобразовании замороженного графика в модель tenorflow_lite
Я обучил модель обнаружения объекта. Сейчас я пытаюсь ускорить его вывод, используя квантование, предоставляемое графическим конвертером Tensorflow Lite. Но когда я звоню tf.lite.TFLiteConverter.from_frozen_graphметод, я сталкиваюсь с ошибкой. Я так…
06 фев '19 в 14:04
0
ответов
Можно ли использовать tf.contrib.quantize.create_training_graph с моделью Keras?
Можно ли использовать tf.contrib.quantize.create_training_graph для количественного определения модели с уже обученной моделью Keras? Как я понимаю, я могу импортировать tf.Graph от модели Keras, но могу ли я настроить его после модификации с tf.con…
21 фев '19 в 18:16
2
ответа
Ввод с клавиатуры в нотную запись
Я работаю над приложением музыкальной композиции, которое поддерживает ввод с клавиатуры. Существуют ли какие-либо открытые / свободные библиотеки, которые могут квантовать эти входные данные (со временем как домен) в формат, подходящий для нотной з…
31 окт '10 в 19:51
1
ответ
Градиентное квантование в параллельных данных SGD с пользовательским квантователем
Я хотел бы провести параллельное обучение SGD с собственным градиентным квантованием (чтобы уменьшить связь). Каждый рабочий узел отправляет закодированный (сжатый) градиент на главный узел. Главный узел декодирует сжатый градиент и обновляет параме…
11 дек '18 в 01:36