Что такое кросс-валидация и для чего она нужна?

Кросс-валидация — это метод оценки качества модели машинного обучения, который помогает проверить, насколько хорошо модель будет работать на новых, невидимых данных. Основная идея — разбить исходный набор данных на несколько частей (фолдов), например, 5 или 10. Затем модель обучается на всех частях, кроме одной, а тестируется на оставшейся. Этот процесс повторяется, пока каждая часть не побывает в роли тестовой.

Это позволяет получить более надежную оценку производительности модели, уменьшить переобучение и выбрать лучшие параметры. Например, в 5-fold кросс-валидации данные делятся на 5 частей, и модель обучается 5 раз, каждый раз на 4 частях, тестируясь на 1.

Пример на Python с использованием sklearn:

from sklearn.model_selection import cross_val_score
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_iris

X, y = load_iris(return_X_y=True)
model = RandomForestClassifier()
scores = cross_val_score(model, X, y, cv=5)
print(f"Средняя точность: {scores.mean():.2f}")