SASRec nədir və onun memarlığı necədir?

SASRec (Öz-Əhəmiyyətli Ardıcıllıq Tövsiyəsi) istifadəçi fəaliyyətlərinin ardıcıllığında (məsələn, alış-veriş və ya baxışlar) növbəti elementi proqnozlaşdırmaq üçün transformerlərdən self-attention mexanizmini istifadə edən tövsiyə sistemləri modelidir.

SASRec arxitekturası aşağıdakılara əsaslanır:

• Giriş: istifadəçinin elementlərlə (items) qarşılıqlı əlaqələrinin ardıcıllığı, vektor təqdimatında kodlanmışdır.
• Elementlərin ardıcıllıqda sırasını nəzərə almaq üçün mövqeləşdirmə gölməcləri.
• Müxtəlif məsafələrdəki elementlər arasında asılılıqları nəzərə almağa imkan verən çox başlı self-attention qatları.
• Self-attention-dan sonra qeyri-xətti çevrilmələr üçün feed-forward qatlar.
• Çıxışda, istifadəçinin seçə biləcəyi növbəti element üçün ehtimallar.

Arxitektura təxminən aşağıdakı kimidir:

Giriş ardıcıllığı -> Gömü + Mövqeləşdirmə kodu ->
Çox başlı self-attention -> Feed Forward ->
Növbəti elementin proqnozu üçün çıxış logitsləri

SASRec uzun ardıcıllıqlarla yaxşı işləyir və istifadəçinin tarixindəki vacib elementləri dinamik şəkildə vurğulayır, təkrarlanan şəbəkələrdən istifadə etmədən.