Какое значение отображается в импульсе отладчика Tensorboard?
Может кто-то уточнить (или указать на код), что именно отображается отладчиком Tensorboard в mementum? Документация Tensorflow показывает следующие уравнения для обновления импульса.
накопление = импульс * накопление + градиентная переменная -= learning_rate * накопление
Импульс является постоянной величиной, по крайней мере в MomentumOptimizer, отображаемое значение явно отличается от этой постоянной. Второй вопрос - как инициализируется накопление?