Кои са ключовите хиперпараметри на градиентния буустинг, които можете да назовете?

Ключевые гиперпараметры градиентного бустинга включают:

• Количество деревьев (n_estimators) — сколько слабых моделей будет построено.
• Скорость обучения (learning_rate) — насколько сильно каждое дерево влияет на итоговую модель.
• Максимальная глубина дерева (max_depth) — ограничивает сложность каждого дерева, помогает избежать переобучения.
• Минимальное количество образцов для разбиения (min_samples_split) — минимальное число объектов, необходимое для разделения узла.
• Минимальное количество образцов в листе (min_samples_leaf) — минимальное число объектов в листовом узле.
• Подвыборка (subsample) — доля выборки, используемая для обучения каждого дерева, помогает уменьшить переобучение.
• Регуляризация (например, L1/L2 в XGBoost) — штрафы для уменьшения переобучения.

Настройка этих параметров влияет на баланс между переобучением и недообучением, а также на скорость сходимости модели.