Waarom zijn grote convoluties 9x9, 7x7, 5x5 bijna niet meer in gebruik?

Grote convoluties (bijvoorbeeld 9x9, 7x7, 5x5) worden vrijwel niet meer gebruikt om verschillende redenen:

• Hoge rekenkosten: grote filters vereisen veel meer bewerkingen, wat het trainen en inferentie vertraagt.
• Verlies van lokale informatie: grote kernels bestrijken een te groot gebied, wat kan leiden tot vervaging van belangrijke lokale kenmerken.
• Efficiëntie van kleine convoluties: het gebruik van meerdere opeenvolgende convoluties met kleine kernels (bijvoorbeeld 3x3) stelt modellen in staat hetzelfde receptive veld te vangen, maar met minder kosten en meer niet-lineariteit.

Bijvoorbeeld, de VGGNet-architectuur gebruikt meerdere 3x3 convoluties achter elkaar in plaats van één grote, wat de kwaliteit en efficiëntie verbetert.