Описание тега autoencoder
Цель автокодировщика - изучить сжатое распределенное представление (кодирование) для набора данных. Это означает, что он используется для уменьшения размерности. Автокодировщики используют два или более слоев, начиная с входных данных (например, в задаче распознавания лиц это будут пиксели на фотографии):
- Ряд скрытых слоев (обычно с меньшим количеством нейронов), которые образуют кодировщик.
- Ряд скрытых слоев, ведущих к выходному слою (обычно постепенно увеличивающемуся до последнего, где каждый нейрон имеет то же значение, что и во входном слое), которые образуют декодер.
Если используются линейные нейроны, то оптимальное решение для автокодировщика сильно связано с PCA.
Когда скрытые слои больше входного, автокодировщик потенциально может изучить функцию идентификации и стать бесполезным; однако экспериментальные результаты показали, что такие автокодеры могут по-прежнему служить полезным функциям для обучения в этом случае.
Автокодировщики также можно использовать для изучения представлений данных с избыточными функциями.
"Кодирование" также известно как вложенное пространство или скрытое пространство при уменьшении размерности, где кодер будет использоваться для проецирования, а декодер - для восстановления.