O que são DINO e DINO-v2?

DINO (Destilação sem rótulos) e DINO-v2 são métodos de autoaprendizagem na área de visão computacional, baseados em transformadores e redes neurais convolucionais.

DINO é uma abordagem na qual o modelo aprende a extrair representações úteis de imagens sem usar dados rotulados. A ideia principal é usar duas redes neurais (estudante e professor), onde o professor é atualizado por uma média móvel exponencial dos parâmetros do estudante. O modelo aprende a associar diferentes aumentos da mesma imagem, permitindo formar características estáveis e informativas.

DINO-v2 é uma versão aprimorada do DINO, que amplia as capacidades e a qualidade de extração de características. Utiliza arquiteturas e otimizações mais poderosas, alcançando melhores resultados em tarefas de classificação, segmentação e busca de imagens semelhantes.

Ambos os métodos são amplamente utilizados para pré-treinamento de modelos, que podem posteriormente ser ajustados para tarefas específicas com menos dados rotulados.