რა არის SASRec და რა არის მისი არქიტექტურა?

SASRec (საკუთარი ყურადღების მიმდევრული რეკომენდაცია) მოდელი არის რეკომენდაციის სისტემებისთვის, რომელიც იყენებს ტრანსფორმატორების თვით-შენიშვნის მექანიზმს, რათა წინასწარ განსაზღვროს მომხმარებლის ქმედებების სერიის შემდეგი ელემენტი (მაგალითად, შეძენები ან ნახვები).

SASRec-ის არქიტექტურა დაფუძნებულია:

• შესავალი: მომხმარებლის ურთიერთქმედებების სერია ელემენტებთან (items), რომელიც კოდირებულია ვექტორულ წარმოდგენაში.
• პოზიციური embeddings, რათა გაითვალისწინოს ელემენტების წესრიგი სერიის განმავლობაში.
• რამდენიმე თვით-შენიშვნის ფენა, რომელიც საშუალებას აძლევს მოდელს განიხილოს დამოკიდებულებები სერიის ელემენტებს შორის სხვადასხვა მანძილზე.
• feed-forward ფენები თვით-შენიშვნიდან შემდეგ, ნეირონული ტრანსფორმაციებისათვის.
• გამოყვანაზე, ალბათობები შემდეგი ელემენტისათვის, რომელიც მომხმარებელმა შეიძლება აირჩიოს.

არქიტექტურა დაახლოებით ასე გამოიყურება:

შესავალი სერია -> embeddings + პოზიციური კოდირება ->
Multi-head Self-Attention -> Feed Forward ->
გამოსვლის ლოგიტები შემდეგი ელემენტის წინასწარმეტყველებისთვის

SASRec კარგად მუშაობს გრძელ სერილებთან და დინამიურად ხაზს უსვამს მომხმარებლის ისტორიის მნიშვნელოვან ელემენტებს, რეკურსიული ქსელების გამოყენების გარეშე.