Что именно является временным шагом в модели LSTM?

Question

Что именно является временным шагом в модели LSTM?

Я новичок в LSTM и RNN в целом, я ломал голову, чтобы понять, что именно является временным шагом. Я был бы очень признателен за интуитивное объяснение этого

16

deep-learning lstm recurrent-neural-network timestep

Источник

user10916052 17 янв '19 в 12:20

1 ответ

Решение

Другие вопросы по тегам deep-learning lstm recurrent-neural-network timestep

user812912 17 янв '19 в 12:31 2019-01-17 12:31 · Accepted Answer · 2019-01-17 12:31

Давайте начнем с отличного изображения из блога Криса Олаха (кстати, очень рекомендую прочитать):

В повторяющейся нейронной сети у вас есть несколько повторений одной и той же ячейки. Вывод таков: вы берете некоторый ввод (x ₀), пропускаете его через ячейку, чтобы получить вывод ₁ (изображен черной стрелкой справа на рисунке), а затем пропускаете вывод _{1 в} качестве ввода (возможно, добавляя еще немного ввода компоненты - x ₁ на изображении) в ту же ячейку, создавая новый выходной вывод ₂, снова передают его как вход в ту же ячейку (опять же, возможно, с дополнительным входным компонентом x ₂), создавая выход ₃ и так далее.

Временной шаг - это единичное вхождение ячейки - например, на первом временном шаге вы производите выходные данные ₁, h ₀, на втором временном шаге вы производите выходные данные ₂ и так далее.