Pastāstiet par RandomForest: kā tas ir uzbūvēts, ar ko tas atšķiras no parasta koku bagginga.

„RandomForest“ irens kolektīvas mašīnmācīšanās metode, kas būvē vairākus lēmumu kokus un apvieno to prognozes, lai uzlabotu modeļa kvalitāti un stabilitāti.

Galvenās „RandomForest“ īpašības:

• Katrs koks tiek apmācīts uz nejaušas parauga no sākotnējiem datiem ar atgriešanos (bagging).
• Katras koka būvēšanas laikā katrā mezglā tiek izvēlēta nejauša īpašību apakškopa, no kuras tiek izvēlēts labākais sadalījums.

Atšķirības no klasiskā kokiem bagging:

• Klasiskajā baggingā koki tiek būvēti uz nejaušiem datu paraugiem, bet sadalījumam izvēlētās īpašības tiek izmantotas pilnīgas īpašību kopas.
• „RandomForest“ papildus ievieš nejaušību īpašību izvēlē katrā mezglā, kas samazina korelāciju starp kokiem un palielina vispārējo modeļa spēju.

Piemērs Python ar sklearn:

from sklearn.ensemble import RandomForestClassifier

model = RandomForestClassifier(n_estimators=100, max_features='sqrt')
model.fit(X_train, y_train)
predictions = model.predict(X_test)

Šeit parametrs „max_features='sqrt'“ nosaka nejaušu īpašību apakškopu katram sadalījumam.