Что такое переобучение и как с ним бороться?

Переобучение (overfitting) — это ситуация, когда модель машинного обучения слишком хорошо подстраивается под обучающие данные, включая шум и случайные колебания, и плохо обобщает на новые данные.

Как бороться с переобучением:

• Использовать больше данных для обучения.
• Регуляризация (L1, L2) — добавление штрафов за сложность модели.
• Раннее прекращение обучения (early stopping) — остановка тренировки, когда качество на валидации начинает ухудшаться.
• Кросс-валидация — для оценки обобщающей способности.
• Уменьшение сложности модели — например, уменьшение числа параметров.
• Аугментация данных — создание дополнительных обучающих примеров.

Пример регуляризации на Python с использованием sklearn:

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)  # L2-регуляризация
model.fit(X_train, y_train)