Как понять, что модель недообучена или переобучена?

Чтобы понять, что модель недообучена или переобучена, анализируют поведение ошибки на обучающей и валидационной выборках:

• Недообучение (underfitting): модель плохо работает и на обучающей, и на тестовой выборках — ошибка высокая везде. Это значит, что модель слишком простая и не способна уловить закономерности.

• Переобучение (overfitting): модель показывает очень низкую ошибку на обучающей выборке, но высокая ошибка на тестовой. Модель слишком хорошо запомнила обучающие данные, включая шум, и плохо обобщает.

Для диагностики часто строят график зависимости ошибки от сложности модели или количества эпох обучения. Идеальная модель — с низкой ошибкой на обеих выборках.

Пример:

Модель	Ошибка на обучении	Ошибка на тесте	Вывод
Простая	Высокая	Высокая	Недообучение
Сложная	Низкая	Высокая	Переобучение
Оптимальная	Низкая	Низкая	Хорошая модель

Для борьбы с переобучением применяют регуляризацию, сбор большего объема данных, упрощение модели или методы ранней остановки.