Warum haben sie fast aufgehört, große Faltungen 9x9, 7x7, 5x5 zu verwenden?

Große Faltungen (z.B. 9x9, 7x7, 5x5) werden aus mehreren Gründen praktisch nicht mehr verwendet:

• Hohe Rechenkosten: große Filter erfordern deutlich mehr Operationen, was das Training und die Inferenz verlangsamt.
• Verlust an lokaler Information: große Kerne decken einen zu großen Bereich ab, was dazu führen kann, dass wichtige lokale Merkmale verwischt werden.
• Effizienz kleiner Faltungen: die Verwendung mehrerer aufeinanderfolgender Faltungen mit kleinen Kernen (z.B. 3x3) ermöglicht es Modellen, dasselbe rezeptive Feld zu erfassen, aber mit geringeren Kosten und höherer Nichtlinearität.

Zum Beispiel verwendet die Architektur VGGNet mehrere 3x3-Faltungen hintereinander anstelle einer großen, was die Qualität und Effizienz verbessert.