Mi az a SASRec és mi az architektúrája?

A SASRec (Önmagára Figyelő Szekvenciális Ajánlás) egy ajánlórendszer modell, amely a transzformerekből származó önfigyelmi mechanizmust használja arra, hogy megjósolja a felhasználói műveletek (például vásárlások vagy megtekintések) sorozatában a következő elemet.

A SASRec architektúrája a következőn alapul:

• Bemenet: egy felhasználó interakcióinak sorozata az elemekkel (items), amelyeket vektoralakban kódolnak.
• Pozíciós beágyazások, hogy figyelembe vegyék az elemek sorrendjét a sorozatban.
• Több önfigyelmi réteg, amelyek lehetővé teszik a modell számára, hogy figyelembe vegye a függőségeket a sorozat elemei között különböző távolságokra.
• Feed-forward rétegek az önfigyelmi rétegek után nemlineáris transzformációkhoz.
• Kimenet: valószínűségek a következő elemre, amelyet a felhasználó kiválaszthat.

Az architektúra nagyjából így néz ki:

Bemeneti sorozat -> Beágyazás + Pozíciós kódolás ->
Multi-head Self-Attention -> Feed Forward ->
Kimeneti logitok a következő elem előrejelzéséhez

A SASRec jól működik hosszú sorozatokkal, és dinamikusan kiemeli a felhasználó történetének fontos elemeit anélkül, hogy rekurzív hálózatokat használna.