Остаточное обучение в тензорном потоке

Question

Я пытаюсь воспроизвести это изображение из исследовательской работы. На изображении оранжевая стрелка указывает на ярлык с использованием остаточного обучения, а слой, выделенный красным, указывает на расширенную свертку.

В приведенном ниже коде r5 является результатом relu, показанного на изображении. Я исключил код между релю и слоем расширения для простоты. В тензорном потоке, как бы я правильно объединил результат релю и дилатационной свертки для выполнения остаточного ярлыка?

#relu layer
r5 = tf.nn.relu(layer5)
...
#dilation layer
h_conv4 = conv3d_dilation(concat1, 1154)

Answer 1

Изображение довольно прямолинейно - оно говорит, что вы должны добавить их, поэтому:

#relu layer
r5 = tf.nn.relu(layer5)
...
#dilation layer
h_conv4 = conv3d_dilation(concat1, 1154)

#combined
combined = r5 + h_conv4