Мы показываем, что повышение градиента очень эффективно для прогнозирования временных рядов, и пытаемся объяснить, почему
- Что такое повышение градиента?
- Градиентное повышение как серебряная пуля
- Почему повышение градиента так хорошо?
- Слово предостережения
- Приложение: Список конкурсов и опубликованных решений
Прогнозирование временных рядов является важной задачей во многих областях, включая финансы, продажи и предсказание погоды. Хотя для этой цели широко использовались классические модели временных рядов и методы глубокого обучения, появляется все больше свидетельств того, что повышение градиента часто затмевает другие методы.
Что такое повышение градиента?
Градиентное повышение — это метод машинного обучения, который строит прогностические модели путем последовательного объединения ансамбля слабых учеников. Он направлен на создание сильного ученика путем итеративного сведения к минимуму ошибок, допущенных предыдущими моделями. Основная идея состоит в том, чтобы подогнать последующие модели к остаткам предыдущих моделей, постепенно улучшая прогнозы с каждой итерацией.
LightGBM и XGBoost — две известные библиотеки, реализующие алгоритмы повышения градиента. Они завоевали популярность благодаря своей эффективности, масштабируемости и исключительной производительности.
Хотя повышение градиента не было разработано специально для данных временных рядов, мы можем использовать его для прогнозирования на этапе проектирования признаков. Вы можете проверить эту статью для конкретного примера.
Повышение градиента как серебряная пуля
Мы можем изучить победившие в конкурсах решения, чтобы оценить самые мощные модели в данной области. Выигрышные решения иногда критикуют за то, что они слишком сложны и не легко воспроизводимы в производственной среде. Однако когда та или иная модель постоянно появляется в числе победителей в различных конкурсах, она демонстрирует свою способность эффективно решать сложные задачи.
