Этот очень простой градиентный спуск Если вы начнете любой курс глубокого обучения, вы, вероятно, услышите что-то вроде: Читателю интересно использовать цепное правило для получения градиента, но оно оказывается чрезвычайно простым… (см. примечания cs231n ). Или вот так (см. Лекцию Яна Лекуна ): Вы можете сделать backprop для всех юнитов, это очень просто. В питоне это заняло бы полстраницы. Это очень просто. Это невероятно просто. Почему людям потребовалось так много..