Как написать индивидуальный LSTM в tenorflow?
Я пытаюсь переопределить эту статью " Создание семантически обусловленных LSTM на естественном языке для систем разговорного диалога", в которых они добавляют шлюз в ячейку LSTM и изменяют способ вычисления состояния.
Как я могу сделать это в tenorflow? Нужно ли добавлять новый OP?
1 ответ
Решение
tf.nn.rnn()
а также tf.nn.dynamic_rnn()
функции принимают аргумент cell
типа tf.nn.rnn_cell.RNNCell
, Например, вы можете взглянуть на реализацию tf.nn.rnn_cell.BasicLSTMCell
(в частности, BasicLSTMCell.__call__()
метод), который может быть хорошей отправной точкой для вашего индивидуального LSTM.