У кого больше рецептивное поле: две подряд свертки 3x3 или одна свертка 5x5?

Две подряд свёртки 3x3 имеют больше рецептивное поле, чем одна свёртка 5x5.

Объяснение:

• Рецептивное поле — это область входного изображения, на которую влияет конкретный нейрон.
• Одна свёртка 5x5 охватывает 5x5 пикселей.
• Две последовательные свёртки 3x3 увеличивают рецептивное поле за счёт наложения: первая свёртка смотрит на 3x3, вторая — на 3x3 выходов первой, что в сумме даёт рецептивное поле 5x5.

Преимущества двух 3x3 свёрток:

• Меньше параметров, чем у одной 5x5.
• Более глубокое представление благодаря двум нелинейностям (активациям).

Итог: две свёртки 3x3 последовательно дают то же или большее рецептивное поле, чем одна 5x5, при этом эффективнее с точки зрения параметров и обучения.