Публикации по теме 'l1'


Различные типы регуляризации нейронной сети с помощью Pytorch
Реализация инструментов регуляризации в pyTorch Я проводил некоторое исследование о разреженности в структуре нейронных сетей и наткнулся на статью « Групповая разреженная регуляризация для глубоких нейронных сетей ». В этом документе рассматривается сложная задача одновременной оптимизации (i) весов нейронной сети, (ii) количества нейронов для каждого скрытого слоя и (iii) подмножества активных входных функций (т. Е. Выбора функций ). По сути, они предложили интеграцию..