Poțiunea de boosting pe arbori poate extrapola dincolo de setul de antrenament dacă în caracteristici există doar întârzieri ale țintei?
sobes.tech AI
Răspuns de la AI
Градиентный бустинг по деревьям (например, XGBoost, LightGBM) — это мощный метод для предсказания на основе обучающей выборки, но он не предназначен для экстраполяции за пределы диапазона обучающих данных, особенно если в признаках только лаги таргета.
Если признаки — это только предыдущие значения целевой переменной (лаги), то модель учится аппроксимировать зависимости внутри известного диапазона значений. При попытке предсказать значения вне этого диапазона (экстраполяция) модель обычно будет выдавать значения, близкие к максимуму или минимуму, встреченным в обучении, так как деревья не умеют линейно или иным образом адекватно продолжать тренды за пределами обучающей выборки.
Таким образом, градиентный бустинг по деревьям неэффективен для экстраполяции, если признаки ограничены лагами таргета. Для задач, требующих экстраполяции, лучше использовать модели с явной способностью к этому, например, линейные модели, модели с регуляризацией или нейронные сети с подходящей архитектурой.