Что такое atrous (dilated) convolution и как она расширяет receptive field?

Atrous convolution (или dilated convolution) — это свёртка с расширенными (пропущенными) промежутками между элементами ядра. В отличие от обычной свёртки, где ядро применяется к соседним пикселям, atrous свёртка вставляет "пустые" позиции между элементами ядра, что позволяет увеличить receptive field без увеличения числа параметров и без потери разрешения.

Например, для 3x3 ядра с dilation rate=2, между элементами ядра будет один пропущенный пиксель, что расширяет область восприятия сети.

Это особенно полезно в задачах сегментации и обработки изображений, где важно учитывать контекст на большом пространственном масштабе, сохраняя при этом детализацию.

Пример: если обычная свёртка 3x3 охватывает 3x3 пикселя, то dilated с rate=2 охватывает 5x5 пикселей, но при этом весов и вычислений столько же.