Что такое переобучение? Как его обнаружить и предотвратить?

Переобучение — это ситуация, когда модель машинного обучения слишком хорошо подстраивается под обучающие данные, включая шум и случайные особенности, и плохо обобщает на новые данные.

Как обнаружить:

• Высокая точность на обучающей выборке и низкая на тестовой.
• Значительная разница между ошибками на обучении и проверке.

Как предотвратить:

• Использовать больше данных для обучения.
• Применять регуляризацию (L1, L2).
• Использовать методы ранней остановки обучения.
• Применять кросс-валидацию.
• Упрощать модель (меньше параметров).