Cum funcționează o pădure aleatorie și cum este antrenată în sarcina de clasificare?

Pădurea Aleatorie (Random Forest) este o metodă de învățare automată ensemblu care construiește multiple arbori de decizie și combină rezultatele lor pentru a îmbunătăți precizia și stabilitatea modelului.

Structură:

• Constă dintr-un număr mare de arbori de decizie.
• Fiecare arbore este antrenat pe o submulțime aleatorie a datelor originale (metoda bootstrap).
• La construirea arborelui, la fiecare nod se selectează aleatoriu un subgrup de caracteristici pentru a găsi cea mai bună divizare.

Antrenament pentru sarcini de clasificare:

1. Se selectează aleatoriu o submulțime de date cu înlocuire (exemplu bootstrap).
2. Pentru fiecare arbore, se construiește un arbore de decizie pe această submulțime.
3. La alegerea diviziunii în nodurile arborelui, se consideră doar un subgrup aleatoriu de caracteristici, reducând corelația între arbori.
4. După construirea tuturor arborilor, pentru clasificarea unui obiect nou se face o votare majoritară: clasa aleasă de majoritatea arborilor devine previziunea finală.

Această abordare reduce supraînvățarea și crește capacitatea de generalizare a modelului.