Wat zijn DINO en DINO-v2?

DINO (Distillatie zonder labels) en DINO-v2 zijn zelfgestuurde leermethoden in het veld van computer vision, gebaseerd op transformers en convolutionele neurale netwerken.

DINO is een aanpak waarbij het model leert om nuttige representaties uit afbeeldingen te halen zonder gebruik te maken van gelabelde gegevens. Het belangrijkste idee is het gebruik van twee neurale netwerken (student en leraar), waarbij de leraar wordt bijgewerkt door middel van een exponentieel glijdend gemiddelde van de parameters van de student. Het model leert verschillende augmentaties van dezelfde afbeelding te koppelen, waardoor het stabiele en informatieve kenmerken kan vormen.

DINO-v2 is een verbeterde versie van DINO, die de mogelijkheden en de kwaliteit van het extraheren van kenmerken uitbreidt. Het gebruikt krachtigere architecturen en optimalisaties, wat leidt tot betere resultaten bij classificatie, segmentatie en het zoeken naar vergelijkbare afbeeldingen.

Beide methoden worden veel gebruikt voor het voortrainen van modellen, die daarna kunnen worden aangepast voor specifieke taken met minder gelabelde gegevens.