Kāpēc gandrīz pārtrauca izmantot lielās 9x9, 7x7, 5x5 konvolūcijas?

Lielas konvolūcijas (piemēram, 9x9, 7x7, 5x5) praktiski vairs neizmanto vairāku iemeslu dēļ:

• Augstas aprēķinu izmaksas: lielas filtra ierīces prasa daudz vairāk operāciju, kas palēnina apmācību un inferenci.
• Vietējo informāciju zudums: lielas kodolas pārklāj pārāk lielu teritoriju, kas var novest pie svarīgu vietējo raksturlielumu izplūšanas.
• Mazāku konvolūciju efektivitāte: izmantojot vairākas secīgas ar mazākiem kodoliem (piemēram, 3x3) konvolūcijas, modeļi var noķert to pašu receptīvo lauku, bet ar mazākām izmaksām un lielāku nelinearitāti.

Piemēram, VGGNet arhitektūra izmanto vairākas 3x3 konvolūcijas pēc kārtas vietā ar vienu lielu, kas uzlabo kvalitāti un efektivitāti.