Ce sunt DINO și DINO-v2?

DINO (Distilare fără etichete) și DINO-v2 sunt metode de învățare auto-supervizată în domeniul viziunii computerizate, bazate pe transformatoare și rețele neuronale convoluționale.

DINO este o abordare în care modelul învață să extragă reprezentări utile din imagini fără a folosi date etichetate. Ideea principală este utilizarea a două rețele neuronale (student și profesor), unde profesorul este actualizat printr-o medie mobilă exponențială a parametrilor studentului. Modelul învață să asocieze diferite augmentări ale aceleiași imagini, ceea ce îi permite să formeze caracteristici stabile și informative.

DINO-v2 este o versiune îmbunătățită a DINO, care extinde capacitățile și calitatea extragerii caracteristicilor. Utilizează arhitecturi și optimizări mai puternice, obținând rezultate mai bune în sarcini de clasificare, segmentare și căutare de imagini similare.

Ambele metode sunt utilizate pe scară largă pentru pre-antrenarea modelelor, care apoi pot fi ajustate pentru sarcini specifice cu mai puține date etichetate.