Sobes.tech
Middle

¿Puede el gradiente boosting de árboles extrapolar más allá del conjunto de entrenamiento si en las características solo hay retardos del objetivo?

sobes.tech AI

Respuesta de la IA

Градиентный бустинг по деревьям (например, XGBoost, LightGBM) — это мощный метод для предсказания на основе обучающей выборки, но он не предназначен для экстраполяции за пределы диапазона обучающих данных, особенно если в признаках только лаги таргета.

Если признаки — это только предыдущие значения целевой переменной (лаги), то модель учится аппроксимировать зависимости внутри известного диапазона значений. При попытке предсказать значения вне этого диапазона (экстраполяция) модель обычно будет выдавать значения, близкие к максимуму или минимуму, встреченным в обучении, так как деревья не умеют линейно или иным образом адекватно продолжать тренды за пределами обучающей выборки.

Таким образом, градиентный бустинг по деревьям неэффективен для экстраполяции, если признаки ограничены лагами таргета. Для задач, требующих экстраполяции, лучше использовать модели с явной способностью к этому, например, линейные модели, модели с регуляризацией или нейронные сети с подходящей архитектурой.