Описание тега batch-normalization
Пакетная нормализация - это метод улучшения обучения в нейронных сетях путем нормализации распределения каждой входной функции в каждом слое по каждому мини-пакету до N(0, 1).
Пакетная нормализация позволяет использовать гораздо более высокие скорости обучения и менее осторожно подходить к инициализации. Он также действует как регуляризатор, в некоторых случаях устраняя необходимость в отсеве.