Что хотят услышать интервьюеры:

PatchTST — это архитектура для прогнозирования временных рядов, где длинная последовательность разбивается на патчи, как в vision-моделях. Такой подход уменьшает длину входа и помогает модели лучше выделять локальные паттерны. Обычно важно сказать, что это Transformer-подход, адаптированный под time series.

Определение:

PatchTST — это модель для анализа и прогнозирования временных рядов, в которой исходный ряд предварительно нарезается на небольшие фрагменты, или патчи, и уже они подаются в Transformer. Идея похожа на обработку изображений патчами: вместо очень длинной последовательности модель работает с более компактным представлением. Это снижает вычислительную нагрузку и часто улучшает качество за счёт более устойчивого выделения локальных зависимостей.

Пример использования:

PatchTST можно использовать для прогноза потребления электроэнергии по истории измерений за несколько месяцев.

# Условный пример пайплайна
# 1. Берём временной ряд
series = load_time_series()

# 2. Разбиваем его на патчи фиксированной длины
patches = make_patches(series, patch_size=16, stride=8)

# 3. Подаём патчи в PatchTST-модель
model = PatchTST()
forecast = model.predict(patches)

print(forecast)

В этом примере модель не обрабатывает каждый таймстамп по отдельности, а видит последовательность патчей, внутри которых уже есть локальный контекст.

Пояснение кода:

Код выше иллюстрирует общий принцип работы, а не конкретную реализацию из библиотеки. Сначала временной ряд преобразуется в набор патчей одинакового размера. Затем каждый патч становится входным токеном для Transformer. На выходе модель строит прогноз следующего участка ряда.

Если разложить по шагам:

load_time_series() — получение исторических данных.
make_patches(...) — группировка соседних точек в окна фиксированной длины.
PatchTST() — создание модели, которая работает с патчами, а не с отдельными точками.
predict(...) — получение прогноза на будущее.

Ключевые моменты:

PatchTST адаптирует Transformer для временных рядов через патчирование входа.
Патчи уменьшают длину последовательности и делают обучение эффективнее.
Модель хорошо подходит для длинных рядов, где важны локальные и дальние зависимости.
Подход часто даёт сильные результаты в forecasting-задачах.
На собеседовании важно подчеркнуть отличие от обычного Transformer: входом выступают не отдельные точки, а фрагменты ряда.

Что такое PatchTST?