Пики потерь при проверке при использовании скорости циклического обучения. Керас
Я работаю с циклической скоростью обучения в Керасе. Функция скорости циклического обучения взята из keras-contrib. Он сказал, что размер шага должен быть2-8 x training iterations in epoch. Вот почему я выбрал 6. Но я думаю, что это должно быть большее число.
Параметры скорости циклического обучения следующие.
CyclicLR(base_lr=1e-5,max_lr=1e-3,step_size=(6*train_generator.n/batch_size))
Я наблюдал эти два пика потерь при проверке. Это что-то из-за циклической скорости обучения. На 2-м изображении показана скорость циклического обучения.
Примечание:
train_generator.n/batch_size=27.1875
