Описание тега deep-residual-networks

Глубокая остаточной сеть является искусственной нейронной сетью, которая использует SKIP соединение или короткие разрезы, чтобы перепрыгнуть через несколько слоев.

Мотивация для пропуска слоев состоит в том, чтобы избежать проблемы исчезновения градиентов, которая может возникнуть в очень глубоких нейронных сетях.

Повторно используя активацию из предыдущего слоя до тех пор, пока слой, следующий за текущим, не изучит свои веса, нейронная сеть сжимается на меньшее количество слоев на начальной фазе и постепенно расширяется по мере того, как она изучает больше пространства функций, что делает оптимизацию очень глубокой. сети послушные.

Дополнительные ресурсы:

• Глубокое остаточное обучение для распознавания изображений
• Плотно связанные сверточные сети
• Страница Википедии