Какво са Informer и Autoformer?

Informer и Autoformer са архитектури на невронни мрежи, проектирани за ефективно прогнозиране на времеви редове.

• Informer — подобрена версия на Transformer, оптимизирана за дълги времеви редове. Използва механизма ProbSparse Attention, който намалява изчислителната сложност на вниманието, като избира най-важните ключове за вниманието, което позволява по-бърза обработка на дълги последователности с по-малко ресурси.

• Autoformer — архитектура, която въвежда механизма Auto-Correlation за моделиране на сезонните и трендовите компоненти на времевите редове. Това позволява по-добро улавяне на дългосрочните зависимости и подобряване на точността на прогнозите.

И двата модела са насочени към решаване на проблемите на класическите Transformer при работа с времеви редове, като например високата изчислителна сложност и недостатъчната способност за моделиране на дългосрочни зависимости.