Обычное руководство по контролируемому обучению с помощью scikit-learn — Эластичные сетевые обобщенные линейные модели (6)
Это шестая часть из 92 частей обычного руководства по обучению с учителем с помощью scikit-learn, написанного с целью научиться эффективно применять алгоритмы для продуктивного использования и уметь объяснять алгоритмическую логику, лежащую в их основе. Ссылки на все части смотрите в первой статье.
Эластичная чистая регрессия
Это продолжение обсуждения регрессии гребня и регрессии лассо. Пожалуйста, продолжайте читать статьи, прежде чем продолжить.
Эластичная сеть – это регуляризованный регрессионный метод, линейно сочетающий штрафы L1 и L2 методов лассо и гребня.
Elastic Net — это модель линейной регрессии, предварительно обученная с использованием L1 и L2 в качестве регуляризатора. Эта комбинация позволяет изучать разреженную модель, в которой несколько весов не равны нулю, как у Лассо, при этом сохраняя свойства регуляризации Риджа. Мы управляем выпуклой комбинацией L1 и L2, используя параметр l1_ratio.
Часть штрафа L1 генерирует разреженную модель. Квадратичная часть L2 штрафа снимает ограничение на количество выбранных переменных. Стимулирует эффект группировки и стабилизирует путь регуляризации L1.
Чтобы получить визуальное представление, мы можем посмотреть на геометрию двух моделей.
Эластичная сеть полезна, когда есть несколько функций, которые коррелируют друг с другом. Lasso, скорее всего, выберет один из них случайным образом, в то время как эластичная сеть, скорее всего, выберет оба.
Практическое преимущество компромисса между Lasso и Ridge заключается в том, что он позволяет Elastic-Net унаследовать некоторую стабильность Ridge при вращении.
примечание: источник информации выше.
Давайте приступим непосредственно к кодированию, чтобы понять и применить концепции, которые мы обсудили для нашего набора данных по диабету.
Кредиты
Все кредиты относятся к документации Scikit-learn, а все ссылки соответствуют официальному руководству пользователя.
Также спасибо моему другу, который считает, что «успех для меня заключается в том, что я оказал достаточное влияние, чтобы мир стал лучше», что мотивирует меня начать с нуля, чтобы в какой-то момент изменить ситуацию.
об авторе
Я Венали Сононе, специалист по данным по профессии, а также изучаю менеджмент и стремлюсь продвинуться по карьерной лестнице в финансовой сфере.