Как да разберете дали моделът е недообучен или преобучен?

За да разберете дали моделът е недообучен или пренастроен, анализират се поведението на грешката върху обучаващите и валидиращите набори:

• Недообучване (underfitting): моделът работи зле както върху обучаващия, така и върху тестовия набор — грешката е висока навсякъде. Това означава, че моделът е твърде прост и не може да улови закономерностите.

• Пренастройване (overfitting): моделът показва много ниска грешка върху обучаващия набор, но висока върху тестовия. Моделът е запаметил прекалено добре обучаващите данни, включително шума, и се представя зле при обобщаване.

За диагностика често се изгражда графика на зависимостта на грешката от сложността на модела или броя на епохите на обучение. Идеалният модел има ниска грешка и в двата набора.

Пример:

Модел	Грешка при обучение	Грешка при тест	Заключение
Прост	Висока	Висока	Недообучение
Сложен	Ниска	Висока	Пренастройване
Оптимален	Ниска	Ниска	Добър модел

За борба с пренастройването се прилагат регуляризация, събиране на повече данни, опростяване на модела или методи за ранно спиране.