Vorbiți despre RandomForest: cum funcționează, în ce se deosebește de bagging-ul obișnuit de arbori.

RandomForest este o metodă de învățare automată ensemblă care construiește mai mulți arbori de decizie și combină predicțiile lor pentru a îmbunătăți calitatea și stabilitatea modelului.

Caracteristici principale ale RandomForest:

• Fiecare arbore este antrenat pe o sub-alegere aleatorie a datelor originale cu înlocuire (bagging).
• La construirea fiecărui arbore, în fiecare nod, se selectează un sub-ansamblu aleatoriu de caracteristici, dintre care se alege cea mai bună pentru divizare.

Diferențe față de bagging-ul clasic de arbori:

• În bagging-ul clasic, arborii sunt construiți pe sub-alegeri aleatoare de date, dar la alegerea caracteristicii pentru divizare se folosește întregul set de caracteristici.
• În RandomForest, se introduce, de asemenea, aleatoriu la alegerea caracteristicilor în fiecare nod, ceea ce reduce corelația între arbori și crește capacitatea de generalizare.

Exemplu în Python cu sklearn:

from sklearn.ensemble import RandomForestClassifier

model = RandomForestClassifier(n_estimators=100, max_features='sqrt')
model.fit(X_train, y_train)
predictions = model.predict(X_test)

Aici, parametrul max_features='sqrt' stabilește un sub-ansamblu aleatoriu de caracteristici pentru fiecare divizare.