Wie heeft een groter receptief veld: twee opeenvolgende 3x3 convoluties of één 5x5 convolutie?

Twee opeenvolgende 3x3-convoluties hebben een groter receptief veld dan één 5x5-convolutie.

Uitleg:

• Het receptieve veld is het gebied van de invoerafbeelding dat invloed heeft op een bepaald neuron.
• Een 5x5-convolutie beslaat 5x5 pixels.
• Twee opeenvolgende 3x3-convoluties vergroten het receptieve veld door overlapping: de eerste kijkt naar 3x3, de tweede naar 3x3 van de outputs van de eerste, wat samen een receptief veld van 5x5 geeft.

Voordelen van twee 3x3-convoluties:

• Minder parameters dan één 5x5.
• Diepere representatie dankzij twee niet-lineariteiten (activaties).

Kortom: twee 3x3-convoluties in serie bieden hetzelfde of een groter receptief veld dan één 5x5, en zijn efficiënter qua parameters en training.