Предисловие В предыдущих статьях неоднократно упоминалось об использовании методов оптимизации градиентного спуска для поиска оптимального решения проблемы, которая определила четыре ключевые части машинного обучения . Например, для вопроса прогнозирования цен на жилье: 1) для оцифрованного представления входных данных вы можете использовать вектор, содержащий площадь дома, год дома и т. д., чтобы указать входные данные, 2) для выходных данных является фактическим цена сделки дома, 3)..

Выпрямленная линейная единица (ReLU) — одна из самых популярных и широко используемых функций активации в машинном обучении сегодня. Несмотря на его широкое использование, похоже, существует устойчивое заблуждение, что ReLU является одновременно непрерывным и дифференцируемым. Однако это не совсем точно. В этой статье мы рассмотрим непрерывность и дифференцируемость ReLU и объясним, почему эту функцию все еще можно использовать в качестве функции активации в машинном обучении. Для начала..

Невыносимо, сколько маркетинговых усилий ИИ получил от разработчиков за последние годы. И под невыносимым я имею в виду что я на самом деле делаю с этим огромным объемом информации, чтобы получить какие-то полезные знания? Каждый раз, когда я слышу «он учится» или «у него есть разум», я думаю: «Ну, это просто множество утверждений if / else, не так ли?». Ну, технически да, но совсем не так, как я думал. Чтобы решить свою дилемму, я решил изобрести велосипед и построить его с нуля...

С миром финансовой торговли - непростая задача. В 2018 году финансовые власти ужесточили нормативные требования, усилились все более агрессивная и активная конкуренция, а рентабельность распределялась еще меньше. Место, где огромные объемы торговли, которые представляют большие классы активов в мире, приводят к высокой ликвидности, географической разбросанности и круглосуточным круглосуточным операциям. Пришло время кому-то открыть и освободить этот сложный и гигантский рынок..

Итак, теперь мы понимаем, как оптимизировать функцию с помощью Градиентного спуска , если мы можем получить производную функции. Отлично, если бы у всех функций была очевидная производная, мы бы все смогли оптимизировать! Но не все функции имеют очевидную производную. Некоторые из них очень сложны, что делает поиск производной вручную трудоемким. Кроме того, если мы откроем наш диапазон возможных функций миру кода, то получим циклы, операторы if-else, сложные объекты, функции,..