Как усилить сигнал прямого распространения в сети глубокого обучения?

Question

Я задавал вопрос ранее в Matconvnet: вывод матрицы глубокой сети имеет одинаковое значение вместо различных значений? Отладив глубокую сеть для оценки плотности, я понял, что сигнал на выходе гаснет / замирает. Как я могу усилить сигнал, чтобы он не стал плоским, а пиковые и базовые значения сохраняли высокую амплитуду?

Answer 1

Использование более низкой альфа в нормализации LRN может усилить вывод.