Ce sunt biasul și variația și ce scade în pădurea aleatorie?

În învățarea automată:

• Bias (părtinire) — este o eroare cauzată de un model prea simplu, care nu poate aproxima bine dependența reală. Un bias ridicat duce la sub-învățare.
• Variație — este sensibilitatea modelului la schimbările din datele de antrenament. O variație mare înseamnă că modelul se adaptează prea mult la zgomotul din date, ceea ce duce la supra-învățare.

O pădure aleatorie este un ansamblu de arbori de decizie construiți pe subeșantioane aleatorii de date și caracteristici. Reduce variația comparativ cu un singur copac, deoarece media predicțiilor reduce influența fluctuațiilor aleatorii din date, în timp ce bias-ul rămâne aproximativ la nivelul arborilor individuali sau crește ușor.

Exemplu:

from sklearn.ensemble import RandomForestClassifier

# Pădurea aleatorie reduce variația prin medie
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)