Hoe weet je of een model onderfitted of overfitted is?

Om te begrijpen of een model onderfitted of overfitted is, wordt het gedrag van de fout op de trainings- en validatiegegevens geanalyseerd:

• Onderfitting (underfitting): het model werkt slecht op zowel de trainings- als de testgegevens — de fout is overal hoog. Dit betekent dat het model te eenvoudig is en de patronen niet kan vastleggen.

• Overfitting (overfitting): het model toont een zeer lage fout op de trainingsgegevens, maar een hoge fout op de testgegevens. Het model heeft de trainingsgegevens, inclusief het ruis, te goed onthouden en generaliseert slecht.

Voor diagnose wordt vaak een grafiek gemaakt van de fout afhankelijk van de complexiteit van het model of het aantal trainings-epochen. Het ideale model heeft lage fouten op beide datasets.

Voorbeeld:

Model	Fout op training	Fout op test	Conclusie
Eenvoudig	Hoog	Hoog	Onderfitting
Complex	Laag	Hoog	Overfitting
Optimaal	Laag	Laag	Goed model

Om overfitting te bestrijden, worden regularisatie, meer gegevens verzamelen, het model vereenvoudigen of vroege stopmethoden toegepast.