Программный импульс с Tensorflow
Я работаю с RBM, которые не реализованы в tf, поэтому я вручную программирую все градиенты и операции обновления. Но так как программирование tf похоже на графическую модель, я не знаю, как вызвать импульс, потому что мне нужно получить доступ к переменной на предыдущем шаге по времени. Лучшей попыткой было это:
self.delta_w = self.momentum*self.delta_w + self.lr * (self.corr_pos - self.corr_neg) - self.l1*tf.reduce_mean(tf.abs(self.W))
Это W-градиент с импульсом и l1 регуляризатором, но, хотя я не жалуюсь на тренировки, когда я пытаюсь визуализировать эти данные с тензорборадом, я получаю "скаляр не найден" и "Невозможно получить метку времени первого события для запустить logs \ test "на cmd. Я предполагаю, что это потому, что tf плохо справляется с этим типом рекурсии?
Я также видел этот класс MomentumOptimizer, но я не знаю, смогу ли я его использовать, так как я использую свои собственные градиенты.
Какие-либо предложения?
Спасибо!