Ce este ajustarea promptului și unde se aplică?

Ajustarea prompturilor este o metodă de adaptare a modelelor mari de limbaj (LLM) fără reantrenarea completă a modelului. În loc să modifice toți greutățile modelului, ajustarea prompturilor antrenează o cantitate mică de parametri suplimentari, care acționează ca 'sugestii' (prompt), influențând comportamentul modelului.

Se aplică atunci când este nevoie să se adapteze rapid și eficient un LLM pentru o sarcină specifică, cum ar fi clasificarea textului, generarea de răspunsuri sau traducerea, cu resurse limitate. Acest lucru este deosebit de util atunci când nu există posibilitatea sau dorința de a reantrena întregul model din cauza dimensiunii sau costurilor sale.

Exemplu: în loc de fine-tuning complet al modelului GPT, se pot antrena doar reprezentări vectoriale speciale (soft prompts), care sunt furnizate la intrarea modelului și ghidează generarea sa în direcția dorită.