Что такое group convolution и как она связана с ResNeXt?

Group convolution — это разновидность сверточной операции, при которой входные каналы разбиваются на несколько групп, и свертка выполняется отдельно для каждой группы. Это позволяет уменьшить количество параметров и вычислений, сохраняя при этом способность модели извлекать признаки.

В архитектуре ResNeXt group convolution используется для повышения эффективности и выразительности сети. Вместо того, чтобы применять одну большую свертку, ResNeXt разбивает каналы на несколько групп (называемых "cardinality") и применяет свертки параллельно в каждой группе, а затем объединяет результаты. Это улучшает качество обучения и позволяет строить более глубокие и эффективные модели.

Пример: если у вас 64 входных канала и 32 выходных, и вы используете 4 группы, то каждая группа будет обрабатывать 16 входных каналов и выдавать 8 выходных каналов.