Ինչպե՞ս է տեղի ունենում որակի բարելավում մոդելի ինքնուրույն թափանցման ժամանակ։

Մոդելի ինքն distillացիայի ժամանակ որակի բարելավումը տեղի է ունենում ավելի «նուրբ» նպատակային նշանների (soft targets) օգտագործման միջոցով, որոնք պարունակում են լրացուցիչ տեղեկություններ դասերի հավանականությունների մասին, ոչ միայն ճիշտ պատասխանին։ Սա օգնում է մոդելին ավելի լավ ընդհանուր պատկերացում կազմել և սովորել դասերի միջև նուրբ տարբերություններից։

Բացի այդ, դիստիլացիան թույլ է տալիս մոդելին սովորել իր սեփական կանխատեսումներից որոշակի հարթեցման աստիճանով, ինչը նվազեցնում է գերապատկերումը և բարելավում կայունությունը։ Վերջում, մոդելը դառնում է ավելի կոմպակտ և արդյունավետ, պահպանելով կամ նույնիսկ բարելավելով որակը համեմատած սկզբնականի հետ։