Описание тега autoencoder

Автоэнкодер, автоассоциатор или сеть Diabolo - это искусственная нейронная сеть, используемая для обучения эффективным кодам. Таким образом, он является частью алгоритмов уменьшения размерности.

Цель автокодировщика - изучить сжатое распределенное представление (кодирование) для набора данных. Это означает, что он используется для уменьшения размерности. Автокодировщики используют два или более слоев, начиная с входных данных (например, в задаче распознавания лиц это будут пиксели на фотографии):

  • Ряд скрытых слоев (обычно с меньшим количеством нейронов), которые образуют кодировщик.
  • Ряд скрытых слоев, ведущих к выходному слою (обычно постепенно увеличивающемуся до последнего, где каждый нейрон имеет то же значение, что и во входном слое), которые образуют декодер.

Если используются линейные нейроны, то оптимальное решение для автокодировщика сильно связано с PCA.

Когда скрытые слои больше входного, автокодировщик потенциально может изучить функцию идентификации и стать бесполезным; однако экспериментальные результаты показали, что такие автокодеры могут по-прежнему служить полезным функциям для обучения в этом случае.

Автокодировщики также можно использовать для изучения представлений данных с избыточными функциями.

"Кодирование" также известно как вложенное пространство или скрытое пространство при уменьшении размерности, где кодер будет использоваться для проецирования, а декодер - для восстановления.