Как случайный лес уменьшает влияние отдельных деревьев на итоговое предсказание?

Что хотят услышать интервьюеры:

Случайный лес снижает влияние отдельных деревьев за счёт усреднения их предсказаний. Ошибки и переобучение одного дерева компенсируются другими, потому что деревья обучаются на разных подвыборках и с разным набором признаков. В итоге итоговый ответ становится более устойчивым и менее шумным.

Определение:

Случайный лес — это ансамбль деревьев решений, где каждое дерево строится на случайной подвыборке данных и случайном подмножестве признаков. Для классификации итоговый ответ обычно получают голосованием, для регрессии — усреднением. За счёт этого уменьшается дисперсия модели и снижается зависимость результата от одного неудачного дерева.

Пример использования:

Например, нужно предсказать вероятность оттока клиента. Одно дерево может сильно переобучиться на редких случаях и дать нестабильный прогноз, но лес объединит десятки деревьев и сгладит такие перекосы.

from sklearn.ensemble import RandomForestClassifier

model = RandomForestClassifier(n_estimators=100, random_state=42)
model.fit(X_train, y_train)

pred = model.predict(X_test)
proba = model.predict_proba(X_test)

Пояснение кода:

В этом примере создаётся случайный лес из 100 деревьев. Каждое дерево обучается не на всей информации одинаково: используются случайные подвыборки объектов и признаков. При предсказании классификации деревья голосуют, и класс с наибольшим числом голосов становится итоговым. predict_proba показывает усреднённую оценку вероятностей по всему лесу.

Ключевые моменты:

• Итоговое предсказание формируется не одним деревом, а агрегированием многих деревьев.
• Случайность в данных и признаках делает деревья менее похожими друг на друга.
• Усреднение/голосование уменьшает дисперсию и стабилизирует прогноз.
• Один переобученный или ошибочный дерево не может сильно исказить итог.
• Случайный лес особенно полезен, когда одиночные деревья дают высокую вариативность.