Kas ir self-distillation CV?

Pašizturēšanas metode datorredzes jomā ir tad, kad tas pats modelis tiek izmantots gan kā skolotājs, gan kā skolēns. Ideja ir tāda, ka modelis apmācās, balstoties uz saviem pašiem prognozējumiem, uzlabojot kvalitāti bez nepieciešamības pēc atsevišķa lielā skolotāja modeļa.

Piemērs: vispirms modelis tiek apmācīts uz marķētiem datiem, tad tas ģenerē "mīkstas" (soft labels) zīmes tiem pašiem vai papildu datiem un atkārtoti apmācās pēc šīm zīmēm, kas palīdz uzlabot vispārējo spēju.

Tas palīdz palielināt modeļa precizitāti un stabilitāti, nemainot tā izmēru.