Что такое SASRec и какова его архитектура?

SASRec (Self-Attentive Sequential Recommendation) — это модель для рекомендательных систем, которая использует механизм self-attention из трансформеров для предсказания следующего элемента в последовательности пользовательских действий (например, покупок или просмотров).

Архитектура SASRec основана на:

• Вход: последовательность взаимодействий пользователя с элементами (items), закодированных в векторное представление.
• Эмбеддинги позиционной информации, чтобы учитывать порядок элементов в последовательности.
• Несколько слоев self-attention, которые позволяют модели учитывать зависимости между элементами последовательности на разных расстояниях.
• Feed-forward слои после self-attention для нелинейного преобразования.
• На выходе — вероятности следующего элемента, который пользователь может выбрать.

Примерно архитектура выглядит так:

Input sequence -> Embedding + Positional Encoding ->
Multi-head Self-Attention -> Feed Forward ->
Output logits for next item prediction

SASRec хорошо работает с длинными последовательностями и динамически выделяет важные элементы истории пользователя без использования рекуррентных сетей.