Mi az a DINO és a DINO-v2?

DINO (Címkék nélküli desztilláció) és DINO-v2 a számítógépes látás területén önfelügyelt tanulási módszerek, amelyek transzformátorokon és konvolúciós neurális hálózatokon alapulnak.

DINO egy megközelítés, amelyben a modell megtanul hasznos reprezentációkat kinyerni képekből anélkül, hogy címkézett adatokat használna. A fő ötlet két neurális hálózat (hallgató és tanár) használata, ahol a tanárt a hallgató paramétereinek exponenciális mozgóátlagával frissítik. A modell megtanulja összepárosítani ugyanazon kép különböző augmentációit, ami lehetővé teszi számára, hogy stabil és informatív jellemzőket alakítson ki.

DINO-v2 a DINO továbbfejlesztett változata, amely bővíti a jellemzők kinyerésének képességeit és minőségét. Erősebb architektúrákat és optimalizálásokat alkalmaz, így jobb eredményeket ér el osztályozási, szegmentálási és hasonló képek keresési feladatokban.

Mindkét módszer széles körben alkalmazott a modellek előképzésében, amelyeket később kisebb címkézett adatokkal finomhangolhatnak a konkrét feladatokra.