При обучении GAN, какие оптимизаторы влияют на обучение?
При создании GAN с простой архитектурой генератор-дискриминатор, существует модель генератора, скомпилированная с оптимизатором O1, сконфигурированная с его функциями потерь.
модель дискриминатора с оптимизатором O2, сконфигурированным с его функциями потерь.
модель GAN с оптимизатором O3, построенным следующим образом:
GAN = Sequential()
GAN.add(generator)
GAN.add(discriminator)
gan_optim = [an optimizer]
GAN.compile(optimizer = gan_optim, loss=my_loss,....)
Будет ли обратная связь обратной связи O1 при обучении GAN? или только O3 будет распространяться обратно к генератору?
изменить: шаг обучения выглядит следующим образом:
[set discriminator not trainable]
[compile the GAN]
[ .fit the GAN ]
[ set discriminator trainable ]
[ .fit the discriminator ]