Публикации по теме 'gradient-descent'


Алгоритмы оптимизации и их роль в машинном обучении: краткий обзор CMA-ES и BFGS
Поскольку я какое-то время занимался оптимизацией CMA-ES ( ссылка на GitHub ) и BFGS ( ссылка на GitHub ), я хотел поделиться некоторыми мыслями о том, как эти методы связаны с машинным обучением. По сути, машинное обучение включает в себя поиск наилучших значений для набора параметров (например, коэффициентов функции) , которые минимизируют функцию затрат или максимизируют функцию вознаграждения при использовании для сопоставления входы к выходам. Это означает, что каждый раз, когда..

Многомерная линейная регрессия
В моем предыдущем посте об одномерной линейной регрессии я описал, как машинное обучение может быть очень полезным для прогнозирования данных на основе существующих. Чтобы продемонстрировать это, я использовал набор данных о жилье, в котором была только одна переменная признаков. Позвольте мне добавить еще один блок к головоломке, на этот раз, вместо одной переменной функции, позвольте мне иметь 2 переменные функции: размер дома, а также количество спален. Я использую тот же набор..

Градиентный спуск
Градиентный спуск — это алгоритм оптимизации, используемый для минимизации (или максимизации) функций. Это ключевая концепция машинного и глубокого обучения, обычно используемая для настройки параметров алгоритмов обучения. Основная идея: Основная идея градиентного спуска заключается в итеративной настройке параметров для минимизации функции стоимости. Он работает путем вычисления градиента функции стоимости по каждому параметру и обновления параметров в направлении, которое уменьшает..

Что такое нейронные сети и как они работают?
В машинном обучении алгоритм хорош настолько, насколько хороши данные, на которых он обучался. Обучение на собственном опыте — это своего рода смысл машинного обучения. Без машинного обучения мы бы вручную программировали множество условий «если» и «если-иначе», чтобы компьютер понял, является ли объект автомобилем или человеком. А градиентный спуск — один из самых популярных инструментов, используемых в машинном обучении. Но чтобы понять градиентный спуск, давайте разберемся, как..

Реализация градиентного спуска в питоне
Различные варианты градиентного спуска (Нажмите здесь) Реализация оптимизации роя частиц (нажмите здесь) Реализация градиентного спуска в контроле качества для минимизации «уровня брака — Python (нажмите здесь)» Градиентный спуск — это популярный алгоритм оптимизации, используемый в машинном и глубоком обучении для поиска оптимальных параметров или весов для данной модели. Целью градиентного спуска является минимизация функции стоимости, которая измеряет разницу между..

Алгоритм градиентного спуска 101
Руководство для начинающих Алгоритм градиентного спуска 101 Понимать алгоритм оптимизации, широко используемый в машинном и глубоком обучении. Представьте, что вы — капля воды на вершине горы, и ваша цель — добраться до озера, расположенного прямо у подножия горы. Эта высокая гора имеет разные уклоны и препятствия, поэтому спуск по прямой может быть не лучшим решением. Как бы вы подошли к этой проблеме? Возможно, лучшим решением было бы делать маленькие шаги, один за другим,..

Линейная регрессия Почему это важно в машинном обучении?
Линейная регрессия. Почему она важна для машинного обучения? Вы никогда не задумывались, почему каждый курс по науке о данных начинается с линейной регрессии? Узнаем ответ на этот вопрос в статье. Линейная регрессия  – это простая, базовая, но весьма эффективная модель регрессии. Этот алгоритм помогает создать прочную основу для того, чтобы мы поняли, что делает регрессия в машинном обучении и как делать прогнозы, предоставляя различные входные данные для модели. Например, если..