SGD с импульсом в тензорном потоке

Question

В caffe решатель SGD имеет параметр импульса ( ссылка). В тензорном потоке я вижу, что у 'tf.train.GradientDescentOptimizer' нет явного параметра импульса. Тем не менее, я вижу, что есть оптимизатор tf.train.MomentumOptimizer. Это эквивалент caffe SGD с оптимизатором импульса?

Answer 1

Да, это. tf.train.MomentumOptimizer = SGD + импульс

Answer 2

tf.keras.optimizers.SGD имеетmomentumпараметр. Применение импульса Нестерова также возможно с помощьюnesterov=True.