Hogyan működik a véletlenszerű erdő, és hogyan épülnek fel a fák az összetételben?

A véletlen erdő egy ensemble módszer a gépi tanulásban, amely több döntési fát épít és kombinálja azok előrejelzéseit a modell pontosságának és stabilitásának növelése érdekében.

Hogyan épülnek fel a fák:

• Minden fa esetében véletlenszerűen kiválasztott al-minta kerül az edzési mintából (bootstrap).
• Minden csomópont építése során véletlenszerű jellemzők (feature-ek) kiválasztása történik, amelyek közül a legjobb kerül kiválasztásra a felosztáshoz.
• A fa addig épül, amíg el nem éri a megadott mélységet vagy amíg nem teljesül egy leállási kritérium (pl. minimális objektum szám a levélben).

Hogyan működik az ensemble:

• Osztályozás esetén a végső döntést a fák szavazatainak többsége alapján hozzák meg.
• Regresszió esetén az összes fa előrejelzéseinek átlagát veszik.

Ez a megközelítés csökkenti a túlillesztést, mivel a fák különböző al-mintákon tanulnak és különböző jellemzőket használnak, ezáltal növelve a modell általánosítási képességét.