O que é weight sharing no NAS?

Compartilhamento de pesos no NAS (Pesquisa de Arquitetura Neural) é uma técnica na qual diferentes arquiteturas de redes neurais, investigadas durante o processo de busca, usam pesos comuns em vez de treinar cada arquitetura do zero. Isso acelera significativamente o processo de busca, pois os pesos são treinados uma vez e reutilizados para avaliar várias variantes de arquiteturas.

Exemplo: em vez de treinar cada arquitetura separadamente, cria-se uma superrede (supernet) que contém todas as possíveis variantes de arquiteturas como subconjuntos. Os pesos da superrede são treinados conjuntamente, e para avaliar uma arquitetura específica, são utilizados os pesos correspondentes da superrede.

Isso reduz os custos computacionais e o tempo necessários para NAS, tornando o processo mais eficiente.