Почему практически перестали использовать большие свёртки 9x9, 7x7, 5x5?

Большие свёртки (например, 9x9, 7x7, 5x5) практически перестали использовать по нескольким причинам:

• Высокая вычислительная стоимость: большие фильтры требуют значительно больше операций, что замедляет обучение и инференс.
• Потеря локальной информации: большие ядра охватывают слишком большой участок, что может привести к размытию важных локальных признаков.
• Эффективность маленьких свёрток: использование нескольких последовательных свёрток с малыми ядрами (например, 3x3) позволяет моделям захватывать тот же рецептивное поле, но с меньшими затратами и большей нелинейностью.

Например, архитектура VGGNet использует несколько 3x3 свёрток подряд вместо одной большой, что улучшает качество и эффективность.