Какво е SASRec и каква е неговата архитектура?

SASRec (Само-Внимателна Последователна Препоръка) е модел за системи за препоръки, който използва механизма за само-внимание от трансформаторите за предсказване на следващия елемент в последователността от действия на потребителя (например покупки или гледания).

Архитектурата на SASRec се базира на:

• Вход: последователност от взаимодействия на потребителя с елементи (items), кодирана във векторно представяне.
• Позиционни вграждания, за да се вземе предвид редът на елементите в последователността.
• Множество слоеве на само-внимание, които позволяват на модела да взема предвид зависимостите между елементите на разстояния различни дължини.
• Слоеве за пренасочване след само-вниманието за нелинейни преобразувания.
• На изхода — вероятности за следващия елемент, който потребителят може да избере.

Архитектурата изглежда приблизително така:

Входна последователност -> Вграждане + Позиционно кодиране ->
Мулти-голямо само-внимание -> Пренасочване ->
Логити за предсказване на следващия елемент

SASRec работи добре с дълги последователности и динамично подчертава важните елементи от историята на потребителя без използване на рекурентни мрежи.