Qu'est-ce que le réglage de prompt et où est-il utilisé?

L’ajustement de prompt est une méthode d’adaptation des grands modèles de langage (LLM) sans réentraînement complet du modèle. Au lieu de modifier tous les poids du modèle, l’ajustement de prompt entraîne une petite quantité de paramètres supplémentaires, qui agissent comme des 'suggestions' (prompt), influençant le comportement du modèle.

Il est utilisé lorsque l’on doit adapter rapidement et efficacement un LLM à une tâche spécifique, comme la classification de texte, la génération de réponses ou la traduction, avec des ressources limitées. Cela est particulièrement utile lorsque l’on ne peut ou ne souhaite pas réentraîner tout le modèle en raison de sa taille ou de son coût.

Exemple : au lieu d’un fine-tuning complet du modèle GPT, on peut n’entraîner que des représentations vectorielles spéciales (soft prompts), qui sont fournies en entrée du modèle et orientent sa génération dans la direction souhaitée.