Was ist Überanpassung? Welche Möglichkeiten gibt es, dagegen vorzugehen?

Overfitting (Überanpassung) ist eine Situation, in der ein Machine-Learning-Modell zu gut an die Trainingsdaten angepasst ist, einschließlich Rauschen und zufälliger Schwankungen, und daher schlecht auf neue, unsichtbare Daten generalisiert.

Methoden zur Bekämpfung von Overfitting:

• Regularisierung (L1, L2) — Hinzufügen einer Strafe für die Komplexität des Modells, um zu große Gewichte zu verhindern.
• Frühes Stoppen — das Training beenden, wenn die Qualität auf dem Validierungsdatensatz zu verschlechtern beginnt.
• Erhöhung des Datenvolumens — mehr Daten helfen dem Modell, besser zu generalisieren.
• Kreuzvalidierung — hilft, die Generalisierungsfähigkeit des Modells zu bewerten und Parameter anzupassen.
• Dropout (für neuronale Netze) — zufälliges Deaktivieren von Neuronen während des Trainings, um Abhängigkeiten von einzelnen Merkmalen zu vermeiden.
• Vereinfachung des Modells — Reduzierung der Parameterzahl oder Schichten.

Beispiel für Regularisierung in der linearen Regression:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2-Regularisierung
model.fit(X_train, y_train)