Zašto se u neuronskim mrežama koristi konvolucija sa jezgrom 1x1?

Konvolucija sa jezgrom 1x1 u neuronskim mrežama koristi se za nekoliko svrha:

• Promena broja kanala (dubina): 1x1 konvolucija omogućava efikasno smanjenje ili povećanje broja kanala, bez uticaja na prostorne dimenzije slike.
• Uvođenje nelinearnosti i mešanje kanala: nakon 1x1 konvolucije obično se primenjuje aktivacija, što pomaže modelu da nauči složenije prikaze.
• Optimizacija računanja: 1x1 konvolucije se često koriste u arhitekturama poput ResNet ili Inception za smanjenje računarske opterećenosti, zamenjujući težim konvolucijama.

Primer: ako imate tenzor dimenzija 28x28x256, primena 1x1 konvolucije sa 64 filtera daje izlaz 28x28x64, efikasno smanjujući dimenzionalnost karakteristika.

Na taj način, 1x1 konvolucija je alat za upravljanje dimenzionalnošću i povećanje izražajnosti modela bez promene prostornh karakteristika podataka.