Sobes.tech
Middle

Le gradient boosting par arbres peut-il extrapoler au-delà de l'échantillon d'entraînement si les caractéristiques ne contiennent que des retards de la cible?

sobes.tech IA

Réponse de l'IA

Градиентный бустинг по деревьям (например, XGBoost, LightGBM) — это мощный метод для предсказания на основе обучающей выборки, но он не предназначен для экстраполяции за пределы диапазона обучающих данных, особенно если в признаках только лаги таргета.

Если признаки — это только предыдущие значения целевой переменной (лаги), то модель учится аппроксимировать зависимости внутри известного диапазона значений. При попытке предсказать значения вне этого диапазона (экстраполяция) модель обычно будет выдавать значения, близкие к максимуму или минимуму, встреченным в обучении, так как деревья не умеют линейно или иным образом адекватно продолжать тренды за пределами обучающей выборки.

Таким образом, градиентный бустинг по деревьям неэффективен для экстраполяции, если признаки ограничены лагами таргета. Для задач, требующих экстраполяции, лучше использовать модели с явной способностью к этому, например, линейные модели, модели с регуляризацией или нейронные сети с подходящей архитектурой.