Was ist Kreuzvalidierung und wofür ist sie notwendig?

Kreuzvalidierung ist eine Methode zur Bewertung der Qualität eines maschinellen Lernmodells, die dabei hilft zu überprüfen, wie gut das Modell auf neuen, unsichtbaren Daten funktionieren wird. Die Hauptidee ist, den ursprünglichen Datensatz in mehrere Teile (Folds) aufzuteilen, zum Beispiel 5 oder 10. Dann wird das Modell auf allen Teilen außer einem trainiert und auf dem verbleibenden getestet. Dieser Vorgang wird wiederholt, bis jeder Teil als Test verwendet wurde.

Dies ermöglicht eine zuverlässigere Einschätzung der Modellleistung, reduziert das Überanpassen und hilft, die besten Parameter zu wählen. Zum Beispiel werden bei der 5-fachen Kreuzvalidierung die Daten in 5 Teile aufgeteilt, und das Modell wird 5-mal trainiert, jeweils auf 4 Teilen, getestet auf 1.

Beispiel in Python mit sklearn:

from sklearn.model_selection import cross_val_score
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris

X, y = load_iris(return_X_y=True)
model = RandomForestClassifier()
scores = cross_val_score(model, X, y, cv=5)
print(f"Durchschnittliche Genauigkeit: {scores.mean():.2f}")