De ce se folosește convoluția cu nucleu 1x1 în rețelele neuronale?

Convoluția cu nucleu 1x1 în rețele neuronale este utilizată pentru mai multe scopuri:

• Schimbarea numărului de canale (adâncime): Convoluția 1x1 permite reducerea sau creșterea eficientă a numărului de canale, fără a afecta dimensiunile spațiale ale imaginii.
• Introducerea de non-liniaritate și amestecarea canalelor: după convoluția 1x1, de obicei se aplică o activare, ceea ce ajută modelul să învețe reprezentări mai complexe.
• Optimizarea calculelor: convoluțiile 1x1 sunt adesea folosite în arhitecturi precum ResNet sau Inception pentru reducerea sarcinii de calcul, înlocuind convoluțiile mai grele.

Exemplu: dacă aveți un tensor de dimensiuni 28x28x256, aplicarea unei convoluții 1x1 cu 64 de filtre va produce o ieșire de 28x28x64, reducând eficient dimensiunea caracteristicilor.

Astfel, convoluția 1x1 este un instrument pentru gestionarea dimensionalității și creșterea expresivității modelului fără a modifica caracteristicile spațiale ale datelor.