Kas ir DINO un DINO-v2?

DINO (Distilācija bez etiķetēm) un DINO-v2 ir pašmācības metodes datorredzes jomā, kas balstītas uz transformatoriem un konvolucionālajām neironu tīklām.

DINO ir pieeja, kurā modelis mācas izvilkt noderīgas reprezentācijas no attēliem, neizmantojot marķētus datus. Galvenā ideja ir izmantot divus neironu tīklus (studentu un skolotāju), kur skolotājs tiek atjaunināts ar eksponenciālo slīdošo vidējo no studenta parametriem. Modelis mācas saskaņot dažādas vienas un tās pašas attēla augmentācijas, kas ļauj tam veidot stabilas un informatīvas īpašības.

DINO-v2 ir uzlabota DINO versija, kas paplašina īpašību izvilkšanas iespējas un kvalitāti. Tā izmanto jaudīgākas arhitektūras un optimizācijas, kas ļauj sasniegt labākus rezultātus klasifikācijas, segmentācijas un līdzīgu attēlu meklēšanas uzdevumos.

Abi metodes plaši tiek izmantoti modeļu priekšmācībai, kurus pēc tam var pielāgot konkrētiem uzdevumiem ar mazāk marķētiem datiem.