Обычное руководство по контролируемому обучению с помощью scikit-learn — Эластичные сетевые обобщенные линейные модели (6)

Это шестая часть из 92 частей обычного руководства по обучению с учителем с помощью scikit-learn, написанного с целью научиться эффективно применять алгоритмы для продуктивного использования и уметь объяснять алгоритмическую логику, лежащую в их основе. Ссылки на все части смотрите в первой статье.

Эластичная чистая регрессия

Это продолжение обсуждения регрессии гребня и регрессии лассо. Пожалуйста, продолжайте читать статьи, прежде чем продолжить.

Эластичная сеть – это регуляризованный регрессионный метод, линейно сочетающий штрафы L1 и L2 методов лассо и гребня.

Elastic Net — это модель линейной регрессии, предварительно обученная с использованием L1 и L2 в качестве регуляризатора. Эта комбинация позволяет изучать разреженную модель, в которой несколько весов не равны нулю, как у Лассо, при этом сохраняя свойства регуляризации Риджа. Мы управляем выпуклой комбинацией L1 и L2, используя параметр l1_ratio.

Часть штрафа L1 генерирует разреженную модель. Квадратичная часть L2 штрафа снимает ограничение на количество выбранных переменных. Стимулирует эффект группировки и стабилизирует путь регуляризации L1.

Чтобы получить визуальное представление, мы можем посмотреть на геометрию двух моделей.

Эластичная сеть полезна, когда есть несколько функций, которые коррелируют друг с другом. Lasso, скорее всего, выберет один из них случайным образом, в то время как эластичная сеть, скорее всего, выберет оба.

Практическое преимущество компромисса между Lasso и Ridge заключается в том, что он позволяет Elastic-Net унаследовать некоторую стабильность Ridge при вращении.

примечание: источник информации выше.

Давайте приступим непосредственно к кодированию, чтобы понять и применить концепции, которые мы обсудили для нашего набора данных по диабету.

Кредиты

Все кредиты относятся к документации Scikit-learn, а все ссылки соответствуют официальному руководству пользователя.

Также спасибо моему другу, который считает, что «успех для меня заключается в том, что я оказал достаточное влияние, чтобы мир стал лучше», что мотивирует меня начать с нуля, чтобы в какой-то момент изменить ситуацию.

об авторе

Я Венали Сононе, специалист по данным по профессии, а также изучаю менеджмент и стремлюсь продвинуться по карьерной лестнице в финансовой сфере.