Cos'è il prompt tuning e dove viene applicato?

Il fine-tuning dei prompt è un metodo di adattamento di grandi modelli linguistici (LLM) senza un riaddestramento completo del modello. Invece di modificare tutti i pesi del modello, il fine-tuning dei prompt addestra una piccola quantità di parametri aggiuntivi, che fungono da 'suggerimenti' (prompt), influenzando il comportamento del modello.

Viene utilizzato quando è necessario adattare rapidamente ed efficacemente un LLM a un compito specifico, come classificazione del testo, generazione di risposte o traduzione, con risorse limitate. Questo è particolarmente utile quando non è possibile o desiderabile riaddestrare l'intero modello a causa delle sue dimensioni o dei costi.

Esempio: invece di un fine-tuning completo del modello GPT, si possono addestrare solo rappresentazioni vettoriali speciali (soft prompts), che vengono fornite in input al modello e guidano la sua generazione nella direzione desiderata.