Може ли се користити дво Dimenzионално позиционо кодирање у трансформерима који раде са сликама?

Da, dvodimenzionalno pozicijsko kodiranje može i često treba koristiti u transformatorima koji rade sa slikama. Za razliku od tekstualnih podataka, gde je pozicijsko kodiranje obično jednosmerno (niz tokena), slike imaju dvodimenzionalnu strukturu (širina i visina).

Dvodimenzionalno pozicijsko kodiranje omogućava modelu da uzme u obzir prostorne koordinate piksela ili delova, što poboljšava razumevanje strukture slike.

Primer pristupa:

• Kreirati odvojene pozicijske vektore za koordinate na X i Y osi.
• Sabirati ili konkatinirati te vektore da bi se dobilo završno pozicijsko kodiranje za svaki deo.

Ovo pomaže transformatoru da uzme u obzir raspored elemenata u dvodimenzionalnom prostoru, što je ključno za zadatke računarskog vida.