Какие приёмы предотвращения переобучения в boosting (subsample, colsample, min_child)?

В бустинге переобучение предотвращается с помощью нескольких приёмов:

• subsample — случайная выборка части обучающих объектов (строк) для построения каждого дерева. Это снижает корреляцию между деревьями и уменьшает переобучение.

• colsample — случайный отбор признаков (столбцов) для построения каждого дерева или сплита. Это помогает избежать зависимости от одних и тех же признаков и улучшает обобщающую способность.

• min_child_weight (min_child) — минимальное суммарное значение весов объектов в листе дерева. Если вес меньше, разбиение не происходит. Это предотвращает создание слишком маленьких листьев, которые могут запоминать шум.

Эти параметры регулируют разнообразие и сложность модели, помогая ей лучше обобщать на новых данных.