Лазанья - Почему потеря проверки выделена зеленым цветом?

Question

Я использую пример нейронной сети MNIST, и при обучении классификатора столбец "Потеря проверки" (и потеря обучения) имеет некоторые значения, выделенные зеленым цветом. Если у меня скорость обучения на уровне 0,01, все они зеленые, но если я увеличу их до 0,1, то будет выделена только половина из них.

Что означает эта подсветка?

Пример вывода:

Answer 1

Не зная внутренних органов, я вижу образец там.

• Цвет каждой строки, пока есть улучшение (минимизация -> это ниже)
  • поезд с потерей синего цвета
  • Валь-Лосс зеленый
• Прекратите окрашивать, когда потеря / проверка действительно увеличилась
  • Не начинайте красить снова после этого одноразового увеличения

Различные скорости обучения будут влиять на разные пути потери поезда / потери веса и, следовательно, на некоторые возможные разные цвета.

Ваш пример хорошо здесь подходит, так как более низкая скорость обучения обычно более стабильна (от итерации к итерации) в отношении снижения потерь (больше синего, больше зеленого).