Kas ir prompt tuning un kur tas tiek izmantots?

Prompt tuning ir metode, kā pielāgot lielus valodu modeļus (LLM) bez pilnīgas modeļa pārprogrammēšanas. Tā vietā, lai mainītu visus modeļa svarus, prompt tuning apmāca nelielu daudzumu papildu parametru, kas darbojas kā 'norādījumi' (prompt) un ietekmē modeļa uzvedību.

To izmanto, kad nepieciešams ātri un efektīvi pielāgot LLM konkrētam uzdevumam, piemēram, teksta klasifikācijai, atbilžu ģenerēšanai vai tulkojumam, ar ierobežotiem resursiem. Tas ir īpaši noderīgi, kad nav iespējams vai nevēlams pilnībā pārprogrammēt modeli tā lieluma vai izmaksu dēļ.

Piemērs: vietā, lai pilnībā veiktu GPT modeļa finetuning, var apmācīt tikai īpašas vektoru reprezentācijas (soft prompts), kuras tiek ievadītas modeļa ievadā un virza tā ģenerāciju vēlamajā virzienā.