SASRec эмне жана анын архитектурасы кандай?

SASRec (Өз-караштуу үздүк сунуштоо) моделдер системалары үчүн, трансформаторлордон self-attention механизмин колдонуп, колдонуучунун аракеттеринин (мисалы, сатып алуулар же көрүүлөр) үзүндүсүндөгү кийинки элементти болжаган.

SASRec архитектурасы төмөндөгүлөргө негизделген:

• Кирүү: колдонуучунун элементтер менен (items) өз ара аракеттеринин үзүндүсү, вектордук көрсөтмөдө коддолгон.
• Позициялык embeddings, элементтердин тартибин эске алуу үчүн.
• Бир нече self-attention катмары, алар модельге үзүндүдө элементтер ортосундагы көзкарандылыктарды ар кандай аралыкта эске алууга мүмкүндүк берет.
• Self-attentionден кийин, нөл-сызыктык трансформациялар үчүн feed-forward катмары.
• Чыгышта, колдонуучу тандай турган кийинки элемент үчүн мүмкүнчүлүктөр.

Архитектура так ушул сыяктуу көрүнөт:

Кирүү үзүндүсү -> Embedding + Позициялык коддоо ->
Multi-head Self-Attention -> Feed Forward ->
Кийинки элементти болжауу үчүн логиттер

SASRec узун үзүндүлөр менен жакшы иштейт жана колдонуучунун тарыхындагы маанилүү элементтерди динамикалык түрдө белгилейт, рекурренттик тармактарды колдонбостон.