Hogyan működik egy véletlen erdő, és hogyan tanítják a klasszifikációs feladatban?

Véletlen Erdő (Random Forest) egy gyűjtő módszer a gépi tanulásban, amely több döntési fát épít és eredményeiket kombinálja a modell pontosságának és stabilitásának növelése érdekében.

Felépítés:

• Nagyszámú döntési fából áll.
• Minden fa a kiinduló adatok véletlenszerű részhalmazán (bootstrap módszer) tanul.
• A fa építése során minden csomópontban véletlenszerűen kiválasztott jellemzők halmazát használják a legjobb felosztás megtalálásához.

Tanítás osztályozási feladatokban:

1. Véletlenszerűen kiválasztott adathalmazt vesznek vissza (bootstrap mintavétel).
2. Minden fához egy döntési fa épül ezen a mintán.
3. A felosztás kiválasztásakor csak egy véletlenszerű jellemzők halmaza kerül figyelembevételre, ez csökkenti a fák közötti korrelációt.
4. Minden fa építése után, az új objektum osztályozásához többségi szavazás történik: a legtöbb fa által választott osztály lesz a végső előrejelzés.

Ez a megközelítés csökkenti a túlillesztést és növeli a modell általánosítási képességét.