Что хотят услышать интервьюеры:

Дерево решений обычно не имеет отдельной логики для «выбросов» как у устойчивых статистических моделей. Оно просто применяет обученные пороги и правила разбиения к новым данным, даже если значение признака сильно отличается от обучающей выборки. Если значение выходит за привычный диапазон, оно всё равно проходит по дереву до листа, но качество прогноза может ухудшиться из-за отсутствия похожих примеров в обучении.

Определение:

Дерево решений обрабатывает новые значения признаков через последовательность сравнений с порогами в узлах. Для непрерывных признаков значение либо идёт в левую, либо в правую ветку по условию <= threshold / > threshold. Для категориальных признаков выбор зависит от того, как дерево было обучено и как библиотека кодирует категории; если встречается неизвестная категория, это уже зависит от конкретной реализации, а не от самого принципа дерева.

Важно различать два случая:

выброс по числу — экстремальное, но допустимое значение признака;
неизвестное значение/категория — то, чего не было в обучении или что не поддерживается кодировкой.

Для деревьев нет «переобучения на выброс» в момент инференса: они просто идут по заранее построенным правилам. Но если аномальное значение попадает в область, где в обучении почти не было данных, предсказание может быть ненадёжным.

Пример использования:

Допустим, дерево обучали на доходах от 30k до 300k, и новый клиент имеет доход 2 млн. Дерево не ломается: оно просто сравнит значение с порогами в узлах и дойдёт до листа. Но если таких значений в обучении не было, лист может быть выбран неудачно, потому что модель не видела подобных примеров.

from sklearn.tree import DecisionTreeClassifier

X_train = [[25], [35], [45], [55], [65]]
y_train = [0, 0, 1, 1, 1]

tree = DecisionTreeClassifier(random_state=42)
tree.fit(X_train, y_train)

# Значение сильно выше обучающего диапазона
X_new = [[1000]]
pred = tree.predict(X_new)

print(pred)

Пояснение кода:

Код показывает, что дерево обучается на небольшом диапазоне значений признака, а затем получает значение 1000, которое намного больше всех обучающих примеров. При предсказании дерево не пытается «нормализовать» или специально обрабатывать выброс: оно просто проходит по порогам в узлах. В результате значение попадёт в один из листьев, и модель выдаст класс, который чаще встречался в этой ветке.

Если бы здесь был неизвестный категориальный признак, поведение зависело бы от реализации и способа кодирования. Но для числового выброса логика всегда одна: сравнение с порогами и движение по дереву до листа.

Ключевые моменты:

Дерево решений не распознаёт выброс как особый тип объекта — оно просто применяет правила разбиения.
Экстремальное числовое значение не вызывает ошибку само по себе и всё равно проходит по дереву.
Основная проблема не в обработке, а в качестве: для значений вне распределения обучение может не дать надёжного листа.
Для категориальных признаков поведение с неизвестными категориями зависит от библиотеки и способа кодирования.
Если выбросов много, обычно помогают предобработка, клиппинг, робастное преобразование или специальные модели/ансамбли.
Деревья в целом более устойчивы к масштабированию признаков, но не «магически» устойчивы к аномальным значениям.

Как дерево обрабатывает выбросы признаков, отсутствующие в обучающей выборке?