Šta je SASRec i kakva je njegova arhitektura?

SASRec (Samokierunkova Sekvencijalna Preporuka) je model za preporučne sisteme koji koristi mehanizam self-attention iz transformatora za predviđanje sledećeg elementa u sekvenci korisničkih akcija (npr. kupovina ili pregleda).

Arhitektura SASRec se zasniva na:

• Ulazu: sekvenci interakcija korisnika sa elementima (items), kodiranoj u vektorski prikaz.
• Pozicijskim ugradnjama za uzimanje u obzir reda elemenata u sekvenci.
• Više slojeva self-attention koji omogućavaju modelu da razmatra zavisnosti između elemenata u sekvenci na različitim rastojanjima.
• Feed-forward slojevima nakon self-attention za nelinearne transformacije.
• Na izlazu, verovatnoće za sledeći element koji korisnik može da izabere.

Arhitektura otprilike izgleda ovako:

Ulazna sekvenca -> Ugradnja + Pozicijsko kodiranje ->
Multi-head Self-Attention -> Feed Forward ->
Logiti za predviđanje sledećeg elementa

SASRec dobro funkcioniše sa dugim sekvencama i dinamički ističe važne elemente iz korisničke istorije bez korišćenja rekurentnih mreža.