Ի՞նչ է classifier-free guidance-ը և ինչպես է աշխատում scale-ը։
sobes.tech AI
Պատասխան AI-ից
Կլասիֆիկատորից ազատ ուղեցույցը մեթոդ է՝ բարելավելու գեներացման որակը դիֆուզիոն մոդելներում՝ առանց առանձին դասակարգիչ ուսուցանելու անհրաժեշտության։ Փոխարենը, մոդելը միաժամանակ ուսուցանվում է պայմանական և անպայման տվյալների վրա, ինչը թույլ է տալիս գեներացման ժամանակ համակցել պայմանական և անպայման կանխատեսումները։
Մեխանիզմը աշխատում է այսպես՝ գեներացման ժամանակ վերցվում են երկու կանխատեսում՝ պայմանական (առանցքային տվյալների հիման վրա, օրինակ՝ տեքստ) և անպայման (պայման չպահելով)։ Դրանք համակցվում են scale (չափաբաժնի գործակից) անվանվող պարամետրի միջոցով, որը կարգավորում է պայմանի ազդեցությունը։ Ֆորմուլան՝
x_{guided} = x_{uncond} + scale * (x_{cond} - x_{uncond})
Որտեղ՝
x_{cond}— մոդելի կանխատեսում պայմանովx_{uncond}— մոդելի կանխատեսում առանց պայմանիscale— գործակից, սովորաբար >1, որը մեծացնում է պայմանի ազդեցությունը
Scale-ի բարձրացումը հանգեցնում է պայմանին ավելի ուժեղ հետևելու, բայց շատ մեծ արժեքը կարող է վատթարացնել որակը կամ առաջացնել արատներ։ Այդ պատճառով՝ scale-ը պարամետր է, որը թույլ է տալիս հավասարակշռել բազմազանությունն ու ճշգրտությունը գեներացման ժամանակ։