Какво са DINO и DINO-v2?

DINO (Дестилация без етикети) и DINO-v2 са методи за самостоятелно обучение в областта на компютърното зрение, базирани на трансформатори и конволюционни невронни мрежи.

DINO е подход, при който моделът се обучава да извлича полезни представяния от изображения без използване на етикетирани данни. Основната идея е да се използват две невронни мрежи (студент и учител), като учителят се актуализира чрез експоненциално плъзгащо средно на параметрите на студента. Моделът се учи да съпоставя различни аугментации на едно и също изображение, което му позволява да формира стабилни и информативни характеристики.

DINO-v2 е подобрена версия на DINO, която разширява възможностите и качеството на извличане на характеристики. Използва по-мощни архитектури и оптимизации, което позволява постигане на по-добри резултати в задачи като класификация, сегментация и търсене на подобни изображения.

И двата метода се използват широко за предварително обучение на модели, които след това могат да бъдат дообучени за конкретни задачи с по-малко етикетирани данни.