Čo je SASRec a aká je jeho architektúra?

SASRec (Self-Attentive Sequential Recommendation) je model za priporočilne sisteme, ki uporablja mehanizem self-attention iz transformerjev za napoved naslednjega elementa v sekvenci uporabniških dejanj (npr. nakupov ali ogledov).

Arhitektura SASRec temelji na:

• Vhodu: sekvenci uporabniških interakcij z elementi (items), kodirani v vektorsko predstavitev.
• Pozicijskih vdelavah za upoštevanje vrstnega reda elementov v sekvenci.
• Več plasteh self-attention, ki omogočajo modelu, da upošteva odvisnosti med elementi v sekvenci na različnih razdaljah.
• Feed-forward plasteh po self-attention za nelinearne transformacije.
• Na izhodu so verjetnosti za naslednji element, ki ga lahko uporabnik izbere.

Arhitektura približno izgleda takole:

Vhodna sekvenca -> Vdelava + Pozicijsko kodiranje ->
Multi-head Self-Attention -> Feed Forward ->
Logiti za napoved naslednjega elementa

SASRec dobro deluje s dolgimi sekvencami in dinamično poudarja pomembne elemente uporabnikove zgodovine brez uporabe rekurentnih mrež.