Что показывает вектор внимания в трансформерах?

Вектор внимания в трансформерах показывает, насколько сильно модель «обращает внимание» на каждое слово (или токен) входной последовательности при обработке конкретного токена на выходе. Проще говоря, это веса, которые определяют важность каждого входного элемента для текущего шага обработки.

Например, при переводе предложения в трансформере для каждого слова на выходе вычисляется вектор внимания, который указывает, какие слова во входном предложении наиболее релевантны для генерации этого слова. Это позволяет модели учитывать контекст и зависимости между словами, даже если они находятся далеко друг от друга.

Вектор внимания — это набор чисел (весов), нормированных обычно с помощью softmax, где большие значения означают большую значимость соответствующего токена входа для текущего шага.

Пример: если модель переводит слово "bank" в контексте "river bank", вектор внимания может выделять слова "river" и "bank" во входе, чтобы правильно понять значение.