Wie erkennt man, ob ein Modell unter- oder überanpasst ist?

Um zu verstehen, ob ein Modell unter- oder überanpasst ist, analysiert man das Fehlerverhalten auf Trainings- und Validierungsdaten:

• Underfitting (Unteranpassung): Das Modell arbeitet sowohl auf Trainings- als auch auf Testdaten schlecht — Fehler ist überall hoch. Das bedeutet, dass das Modell zu einfach ist und die Muster nicht erfassen kann.

• Overfitting (Überanpassung): Das Modell zeigt auf dem Trainingsdatensatz sehr niedrige Fehler, aber auf dem Testdatensatz hohe Fehler. Das Modell hat die Trainingsdaten inklusive Rauschen zu gut memoriert und generalisiert schlecht.

Zur Diagnose wird oft eine Grafik erstellt, die den Fehler in Abhängigkeit von der Modellkomplexität oder der Anzahl der Trainings-Epochen zeigt. Das ideale Modell hat niedrige Fehler in beiden Datensätzen.

Beispiel:

Modell	Fehler beim Training	Fehler beim Test	Schlussfolgerung
Einfach	Hoch	Hoch	Unteranpassung
Komplex	Niedrig	Hoch	Überanpassung
Optimal	Niedrig	Niedrig	Gutes Modell

Um Überanpassung zu bekämpfen, werden Regularisierung, mehr Daten, Modellvereinfachung oder frühe Stopp-Methoden angewandt.