Vertel over RandomForest: hoe het is opgebouwd, hoe het verschilt van gewone boom-bagging.

RandomForest is een ensemble-methode voor machine learning die meerdere beslissingsbomen bouwt en hun voorspellingen combineert om de kwaliteit en stabiliteit van het model te verbeteren.

Belangrijkste kenmerken van RandomForest:

• Elke boom wordt getraind op een willekeurige steekproef van de oorspronkelijke gegevens met teruglegging (bagging).
• Bij het bouwen van elke boom wordt bij elke knoop een willekeurige subset van kenmerken geselecteerd, waarvan de beste wordt gekozen voor splitsing.

Verschil met klassieke bagging van bomen:

• In klassieke bagging worden de bomen gebouwd op willekeurige gegevensmonsters, maar bij het kiezen van kenmerken voor splitsing wordt de volledige set kenmerken gebruikt.
• In RandomForest wordt bovendien willekeur geïntroduceerd bij het kiezen van kenmerken bij elke knoop, wat de correlatie tussen de bomen vermindert en de generalisatiecapaciteit verhoogt.

Voorbeeld in Python met sklearn:

from sklearn.ensemble import RandomForestClassifier

model = RandomForestClassifier(n_estimators=100, max_features='sqrt')
model.fit(X_train, y_train)
predictions = model.predict(X_test)

Hier stelt de parameter max_features='sqrt' een willekeurige subset van kenmerken in voor elke splitsing.