Ի՞նչ է self-distillation-ը CV-ում։

Ինքնամշակումը համակարգչային տեսլականում՝ դա մեթոդ է, երբ նույն մոդելը օգտագործվում է որպես ուսուցիչ և որպես աշակերտ։ Իդեան այն է, որ մոդելը ուսուցվում է իր սեփական կանխատեսումների վրա, բարելավելով որակը՝ առանց անհրաժեշտության առանձին մեծ ուսուցիչ մոդելի:

Օրինակ՝ սկզբում մոդելը ուսուցվում է նշված տվյալների վրա, ապա այն ստեղծում է «մեղմ» (soft labels) նշումներ նույն տվյալների կամ լրացուցիչ տվյալների համար և կրկին ուսուցվում է այդ նշումներով, ինչը օգնում է բարելավել ընդհանուր կարողությունը:

Այսպիսով՝ բարելավվում է մոդելի ճշգրտությունը և կայունությունը՝ առանց նրա չափը մեծացնելու։