Jak działa losowy las i jak jest trenowany w zadaniu klasyfikacji?

Losowy las (Random Forest) to metoda uczenia maszynowego zespołowego, która buduje wiele drzew decyzyjnych i łączy ich wyniki, aby poprawić dokładność i stabilność modelu.

Struktura:

• Składa się z dużej liczby drzew decyzyjnych.
• Każde drzewo jest trenowane na losowym podzbiorze danych źródłowych (metoda bootstrap).
• Podczas budowy drzewa, na każdym węźle wybierany jest losowy podzbiór cech w celu znalezienia najlepszego podziału.

Uczenie w zadaniach klasyfikacji:

1. Losowo wybiera się podzbiór danych z powrotem (próbka bootstrap).
2. Dla każdego drzewa buduje się drzewo decyzyjne na tym podzbiorze.
3. Przy wyborze podziału w węzłach drzewa, rozważa się tylko losowy podzbiór cech, co zmniejsza korelację między drzewami.
4. Po zbudowaniu wszystkich drzew, do klasyfikacji nowego obiektu stosuje się głosowanie większościowe: klasa wybrana przez większość drzew staje się końcową prognozą.

Takie podejście zmniejsza nadmierne dopasowanie i zwiększa zdolność generalizacji modelu.