Čo sú bias a variancia, a čo sa znižuje v náhodnom lese?

V strojovom učení:

• Bias (skreslenie) — je chyba spôsobená príliš jednoduchým modelom, ktorý nedokáže dobre aproximovať skutočnú závislosť. Vysoké skreslenie vedie k podtrénovaniu.
• Variačný (rozptyl) — je citlivosť modelu na zmeny v tréningových dátach. Vysoký rozptyl znamená, že model je príliš prispôsobený šumu v dátach, čo vedie k pretrénovaniu.

Náhodný les je súbor rozhodovacích stromov postavených na náhodných podmnožinách dát a vlastností. Znižuje rozptyl v porovnaní s jednotlivým stromom, pretože priemerné predpovede znižujú vplyv náhodných výkyvov v dátach, zatiaľ čo bias ostáva približne na úrovni jednotlivých stromov alebo mierne narastá.

Príklad:

from sklearn.ensemble import RandomForestClassifier

# Náhodný les znižuje rozptyl prostredníctvom priemeru
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)