CV-də self-distillation nədir?

Öz-distillə komputer görmə sahəsində bir metod olub, burada eyni model həm müəllim, həm də şagird kimi istifadə olunur. Fikir odur ki, model öz proqnozları üzərində öyrənir, keyfiyyəti artırır və ayrıca böyük müəllim modelinə ehtiyac qalmır.

Misal üçün: əvvəlcə model etiketli məlumatlar üzərində öyrədilir, sonra həmin məlumatlar və ya əlavə məlumatlar üçün "yumşaq" (soft labels) etiketlər yaradır və bu etiketlər üzərində yenidən öyrənir, bu da ümumiləşdirmə qabiliyyətini yaxşılaşdırmağa kömək edir.

Bu, modelin dəqiqliyini və dayanıqlığını artırmağa kömək edir, onun ölçüsünü artırmadan.