Kas ir SASRec un kāda ir tā arhitektūra?

SASRec (Pašizlūko Sekvences Ieteikšana) ir modelis rekomendācijas sistēmām, kas izmanto transformatoru paš-attentijas mehānismu, lai prognozētu nākamo elementu lietotāja darbību secībā (piemēram, pirkumus vai skatījumus).

SASRec arhitektūra ir balstīta uz:

• Ievadi: lietotāja mijiedarbību secība ar elementiem (items), kodēta vektoru pārstāvībā.
• Pozicionālie iekļāvumi, lai ņemtu vērā elementu kārtību secībā.
• Daudzas paš-attentijas slāņi, kas ļauj modelim ņemt vērā atkarības starp elementiem dažādos attālumos.
• Feed-forward slāņi pēc paš-attentijas, lai veiktu nelineāras transformācijas.
• Izvade: varbūtības par nākamo elementu, ko lietotājs var izvēlēties.

Arhitektūra aptuveni izskatās šādi:

Ievades secība -> Iekļaušana + Pozicionālais kodējums ->
Multi-head Self-Attention -> Feed Forward ->
Izvades loģiti nākamā elementa prognozēšanai

SASRec labi darbojas ar garām secībām un dinamiski izceļ svarīgus lietotāja vēstures elementus, neizmantojot rekursīvas tīklus.