Problema que aborda
Hacer gradient boosting de árboles rápido y escalable.
Aportación principal
Objetivo regularizado, algoritmo consciente de la dispersión de los datos y optimizaciones de sistema.
Arquitectura
Árboles de boosting.
Relevancia histórica
Referente en competiciones y en la industria con datos tabulares.
Implementaciones
xgboost.XGBClassifier
Artículo: Gradient Boosting y XGBoost
Referencia
T. Chen, C. Guestrin (2016). «XGBoost: A Scalable Tree Boosting System». KDD 2016.
Otros papers de Ensembles
- Random Forests (2001)