Czym jest SASRec i jaka jest jego architektura?

SASRec (Samokierunkowa Sekwencyjna Rekomendacja) to model systemów rekomendacyjnych, który wykorzystuje mechanizm self-attention z transformatorów do przewidywania kolejnego elementu w sekwencji działań użytkownika (np. zakupów lub wyświetleń).

Architektura SASRec opiera się na:

• Wejściu: sekwencji interakcji użytkownika z elementami (items), zakodowanej w reprezentacji wektorowej.
• Osadzeniach informacji pozycyjnej, aby uwzględnić kolejność elementów w sekwencji.
• Kilku warstwach self-attention, które pozwalają modelowi uwzględniać zależności między elementami sekwencji na różnych odległościach.
• Warstwach feed-forward po self-attention dla nieliniowych transformacji.
• Na wyjściu — prawdopodobieństwach kolejnego elementu, który użytkownik może wybrać.

Architektura wygląda mniej więcej tak:

Sekwencja wejściowa -> Osadzenie + Kodowanie Pozycyjne ->
Multi-head Self-Attention -> Feed Forward ->
Logity wyjściowe dla przewidywania następnego elementu

SASRec dobrze działa z długimi sekwencjami i dynamicznie wyróżnia ważne elementy historii użytkownika bez użycia sieci rekurencyjnych.