De ce au încetat aproape să folosească convoluții mari 9x9, 7x7, 5x5?

Convoluțiile mari (de exemplu, 9x9, 7x7, 5x5) au fost practic abandonate din mai multe motive:

• Cost computațional ridicat: filtrele mari necesită mult mai multe operații, ceea ce încetinește antrenamentul și inferența.
• Pierdere de informație locală: nucleele mari acoperă o zonă prea extinsă, ceea ce poate duce la estomparea caracteristicilor locale importante.
• Eficiența convoluțiilor mici: utilizarea mai multor convoluții secvențiale cu nuclee mici (de exemplu, 3x3) permite modelelor să captureze aceeași zonă receptivă, dar cu costuri mai mici și o non-liniaritate mai mare.

De exemplu, arhitectura VGGNet folosește mai multe convoluții 3x3 în serie în loc de una mare, ceea ce îmbunătățește calitatea și eficiența.