Šta su bias i variance, i šta se smanjuje u slučajnom šumarku?

У машинском учењу:

• Bias (пристрастност) — ово је грешка која настаје због превише једноставног модела који не може добро апроксимирати стварну зависност. Висок bias доводи до недовољног учења.
• Варијанса — то је осетљивост модела на промене у подацима за обуку. Висока варијанса значи да модел превише прилагођава шум у подацима, што доводи до пренаглашавања.

Случајна шума је ансамбл одлучујућих стабала изграђених на случајним подскуповима података и карактеристика. Он смањује варијансу у поређењу са појединачним стаблом, јер просек предвиђања смањује утицај случајних колебања у подацима, док bias остаје приближно на нивоу појединачних стабала или се мало повећава.

Пример:

from sklearn.ensemble import RandomForestClassifier

# Случајна шума смањује варијансу кроз просек
model = RandomForestClassifier(n_estimators=100)
model.fit(X_train, y_train)