Чем differentiable NAS (DARTS) отличается от RL-based?

Differentiable NAS (DARTS) и RL-based NAS — это два подхода к автоматическому поиску архитектур нейронных сетей, но они принципиально отличаются по способу оптимизации.

RL-based NAS использует методы обучения с подкреплением, где агент (например, RNN) генерирует архитектуры, получает награду (например, качество на валидации) и обновляет свою политику для генерации лучших архитектур. Этот процесс обычно очень вычислительно затратен, так как требует тренировки множества архитектур.

DARTS (Differentiable Architecture Search) переводит задачу поиска архитектуры в дифференцируемую оптимизацию. Архитектура представляется как смесь операций с непрерывными весами, которые можно оптимизировать градиентным спуском совместно с параметрами сети. Это значительно ускоряет поиск, так как не нужно обучать каждую архитектуру с нуля.

Итог:

• RL-based NAS — дискретный, требует много вычислений, обучение через пробу и ошибку.
• DARTS — непрерывный, дифференцируемый, более эффективный и быстрый за счет совместной оптимизации архитектуры и весов.