O que é boosting?

O boosting é um método de aprendizagem em conjunto que treina sequencialmente vários modelos fracos (geralmente árvores de decisão), cada um corrigindo os erros dos anteriores. No final, resulta num modelo forte com alta precisão. A ideia principal é dar mais atenção, em cada passo, aos objetos nos quais os modelos anteriores cometeram erros.

Exemplo: AdaBoost, Gradient Boosting, XGBoost — implementações populares de boosting.

Exemplo em Python usando sklearn:

from sklearn.ensemble import GradientBoostingClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)

model = GradientBoostingClassifier(n_estimators=100, learning_rate=0.1)
model.fit(X_train, y_train)
print(f"Acurácia: {model.score(X_test, y_test):.2f}")