O que são viés e variância, e o que diminui na floresta aleatória?

Em aprendizagem automática:

• Viés (Bias) — é um erro que surge devido a um modelo demasiado simples, que não consegue aproximar bem a dependência verdadeira. Um viés elevado leva a um subajuste.
• Variância — é a sensibilidade do modelo às mudanças nos dados de treino. Uma variância alta significa que o modelo se ajusta demasiado ao ruído nos dados, levando a um sobreajuste.

Uma floresta aleatória é um conjunto de árvores de decisão construídas a partir de subconjuntos aleatórios de dados e características. Ela reduz a variância em comparação com uma única árvore, pois a média das previsões diminui a influência de oscilações aleatórias nos dados, enquanto o viés permanece aproximadamente ao nível das árvores individuais ou aumenta ligeiramente.

Exemplo:

from sklearn.ensemble import RandomForestClassifier

# A floresta aleatória reduz a variância através da média
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)