Este posibil să se utilizeze codificarea pozițională bidimensională în transformatoare care lucrează cu imagini?

Да, двумерное позиционное кодирование можно и часто нужно использовать в трансформерах, работающих с изображениями. В отличие от текстовых данных, где позиционное кодирование обычно одномерное (последовательность токенов), изображения имеют двумерную структуру (ширина и высота).

Двумерное позиционное кодирование позволяет модели учитывать пространственные координаты пикселей или патчей, что улучшает понимание структуры изображения.

Пример подхода:

• Создать отдельные позиционные векторы для координат по оси X и по оси Y.
• Сложить или конкатенировать эти векторы для получения итогового позиционного кодирования для каждого патча.

Это помогает трансформеру учитывать расположение элементов в двумерном пространстве, что критично для задач компьютерного зрения.