Jak rozpoznać, czy model jest niedouczony lub przeuczony?

Aby zrozumieć, czy model jest niedouczony czy przeuczony, analizuje się zachowanie błędu na zbiorach treningowych i walidacyjnych:

• Niedouczony (underfitting): model działa źle zarówno na zbiorze treningowym, jak i testowym — błąd jest wysoki wszędzie. Oznacza to, że model jest zbyt prosty i nie potrafi uchwycić wzorców.

• Przeuczony (overfitting): model wykazuje bardzo niski błąd na zbiorze treningowym, ale wysoki na testowym. Model zbyt dobrze zapamiętał dane treningowe, w tym szumy, i słabo generalizuje.

Do diagnozy często tworzy się wykres zależności błędu od złożoności modelu lub liczby epok treningowych. Idealny model ma niski błąd na obu zbiorach.

Przykład:

Model	Błąd na treningu	Błąd na teście	Wniosek
Prosty	Wysoki	Wysoki	Niedouczony
Złożony	Niski	Wysoki	Przeuczony
Optymalny	Niski	Niski	Dobry model

Aby zwalczyć przeuczenie, stosuje się regularyzację, zbieranie większej ilości danych, upraszczanie modelu lub metody wczesnego zatrzymania.