Затухание в новых слоях в Керасе

Я пытаюсь реализовать эту статью в Keras с бэкендом tensorflow.

Насколько я понимаю, они постепенно увеличивают GAN, исчезая в дополнительных блоках слоев по мере обучения модели. Новые слои появляются линейно в течение итераций.

Я не уверен, как ввести «затухание», которое они использовали.

Я думаю, что для этого Keras мне, вероятно, понадобится слой Lambda, но это примерно то, что я знаю.

Какие-либо предложения?

Спасибо!


person J Doug    schedule 19.12.2018    source источник


Ответы (1)


Я думаю, вам следует использовать Keras Functional API. Таким образом, вы можете переупорядочивать входные данные для слоя, а также выходные данные и соединять их так, как вы хотите, в то время как слои сохраняют веса, которые они изучили. Вам нужно будет иметь несколько вложенных операторов if, но я думаю, что это должно работать.

Или вы можете подготовить все модели (функции, которые возвращают вам архитектуру модели и могут устанавливать веса слоев) и просто заполнить слои в новой модели весами из соответствующих слоев из старой модели.

person Novak    schedule 20.12.2018