რა არის self-distillation CV-ში?

საკუთარი დისტილაცია კომპიუტერული ხედვის სფეროში არის მეთოდი, სადაც ერთსა და იმავე მოდელს იყენებენ როგორც მასწავლებლად, ასევე მოსწავლედ. იდეაა, რომ მოდელი სწავლობს თავის წინასწარმეტყველებაზე, აუმჯობესებს ხარისხს, გარეშე საჭიროების დიდი ცალკეული მასწავლებელი მოდელის.

მაგალითად: თავდაპირველად, მოდელი სწავლობს მონიშნულ მონაცემებზე, შემდეგ ის ქმნის "მოყრუ" (soft labels) ნიშნებს იგივე ან დამატებით მონაცემებზე და კვლავ სწავლობს ამ ნიშნებზე, რაც ეხმარება ზოგადობის უნარის გაუმჯობესებაში.

ეს ეხმარება მოდელის სიზუსტისა და სტაბილურობის გაზრდას მისი ზომის გაზრდის გარეშე.