Изначально я слышал это как нелепое. Затем по ссылкам «в сети» я увидел, что это называется «ленивым». Что он?

Я реализовал многослойный персептрон с 1 скрытым слоем в наборе данных MNIST. Функция активации в скрытом слое — дырявая (0,01) ReLu, а выходной слой имеет функцию активации softmax. Метод обучения — мини-пакетный SGD. Структура сети 784*30*10....