Prompt tuning nədir və harada tətbiq olunur?

Prompt tuning — bu metodadır böyük dil modellərinin (LLM) tam yenidən təlim olmadan uyğunlaşdırılması. Modelin bütün çəkilərini dəyişdirmək əvəzinə, prompt tuning kiçik sayda əlavə parametrləri öyrənir, onlar 'tövsiyələr' (prompt) kimi çıxış edir və modelin davranışına təsir göstərir.

Prompt tuning, məsələn, mətnin təsnifatı, cavabların yaradılması və ya tərcümə kimi konkret vəzifəyə LLM-ni sürətli və effektiv şəkildə uyğunlaşdırmaq lazım olduqda tətbiq olunur. Bu, modelin ölçüsü və ya xərcləri səbəbindən bütün modeli yenidən təlim etmək mümkün və ya arzuolunan olmadıqda xüsusilə faydalıdır.

Nümunə: GPT modelinin tam fine-tuning əvəzinə, modelin girişinə verilən və onun nəsilini istənilən istiqamətə yönəldən xüsusi vektor təqdimatları (soft prompts) öyrədilə bilər.