Что такое EfficientNet и compound scaling?

EfficientNet — это семейство моделей сверточных нейронных сетей, разработанных для оптимального баланса между точностью и вычислительной эффективностью. Основная идея EfficientNet — использовать метод compound scaling (композитное масштабирование), который одновременно масштабирует глубину сети, ширину слоев и разрешение входных изображений с помощью фиксированных коэффициентов, вместо того чтобы увеличивать только один параметр.

Compound scaling позволяет добиться лучшего качества при меньших вычислительных затратах по сравнению с традиционными подходами, где масштабируется только глубина или ширина сети. Это достигается путем решения задачи оптимального распределения ресурсов между тремя измерениями модели.

Пример: если увеличить глубину в 2 раза, ширину в 1.5 раза и разрешение в 1.4 раза, то модель становится более мощной и точной, при этом сохраняя баланс между скоростью и качеством.

EfficientNet показал высокие результаты на задачах классификации изображений, занимая лидирующие позиции по точности и эффективности.