Что такое Informer и Autoformer?

Informer и Autoformer — это архитектуры нейронных сетей, разработанные для эффективного прогнозирования временных рядов.

• Informer — улучшенная версия Transformer, оптимизированная для длинных временных рядов. Использует механизм ProbSparse Attention, который снижает вычислительную сложность внимания, выбирая наиболее значимые ключи для внимания, что позволяет обрабатывать длинные последовательности быстрее и с меньшими ресурсами.

• Autoformer — архитектура, которая вводит механизм Auto-Correlation для моделирования сезонных и трендовых компонентов временных рядов. Это позволяет лучше захватывать долгосрочные зависимости и улучшать точность прогнозов.

Обе модели направлены на решение проблем классических Transformer при работе с временными рядами, таких как высокая вычислительная сложность и недостаточная способность моделировать долгосрочные зависимости.