Сходства
1. И Adaboost, и градиентное усиление улучшают технику ансамбля.
2. Оба они пытаются компенсировать ошибки предыдущего дерева, поэтому порядок деревьев имеет значение.
3. В обоих из них говорят, что каждое дерево попадает в окончательный прогноз, не то же самое.
Разница
1. Размер деревьев в Adaboost фиксирован, и они являются пнями (дерево, имеющее только 1 узел и 2 листа), они также известны как слабые ученики. Размер деревьев в GradientBoost также фиксирован, но они могут быть больше, чем пни.
2. В Adaboost следующее дерево может компенсировать, а может и не компенсировать ошибки текущего дерева. В Gradientboost всегда есть улучшение по сравнению с предыдущим деревом.
