Mi a torzítás és a variancia, és mit csökkent a véletlenszerű erdőben?

Gépi tanulásban:

• Elfogultság (Bias) — ez egy hiba, amely akkor fordul elő, amikor egy túl egyszerű modellt alkalmaznak, amely nem képes jól közelíteni a valódi függőséget. A magas elfogultság alulillesztést eredményez.
• Változékonyság (Variance) — a modell érzékenysége a tanulási adatok változásaira. A magas változékonyság azt jelenti, hogy a modell túlzottan alkalmazkodik az adatok zajához, ami túlillesztéshez vezet.

A véletlen erdő egy döntési fákból álló gyűjtemény, amely véletlenszerű mintákból és jellemzőkből épül. Csökkenti a változékonyságot egyetlen fához képest, mivel a jóslatok átlagolása csökkenti a véletlenszerű ingadozások hatását az adatokban, miközben az elfogultság nagyjából az egyedi fák szintjén marad vagy enyhén növekszik.

Példa:

from sklearn.ensemble import RandomForestClassifier

# A véletlen erdő csökkenti a változékonyságot az átlagolás révén
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)