Was ist Prompt Tuning und wo wird es angewendet?

Prompt-Tuning ist eine Methode zur Anpassung großer Sprachmodelle (LLM), ohne das Modell vollständig neu zu trainieren. Anstatt alle Gewichte des Modells zu ändern, trainiert Prompt-Tuning eine kleine Anzahl zusätzlicher Parameter, die als 'Hinweise' (Prompt) fungieren und das Verhalten des Modells beeinflussen.

Es wird angewendet, wenn es notwendig ist, ein LLM schnell und effizient an eine spezifische Aufgabe anzupassen, z.B. Textklassifikation, Antwortgenerierung oder Übersetzung, bei begrenzten Ressourcen. Dies ist besonders nützlich, wenn es keine Möglichkeit oder keinen Wunsch gibt, das gesamte Modell aufgrund seiner Größe oder Kosten neu zu trainieren.

Beispiel: Anstatt das GPT-Modell vollständig feinzuabstimmen, können spezielle Vektor-Darstellungen (Soft Prompts) trainiert werden, die in den Eingang des Modells eingespeist werden und die Generierung in die gewünschte Richtung lenken.