Was regelt der Parameter temperature?

Der Parameter temperature in Sprachmodellen (LLM) steuert das Maß an Zufälligkeit und Vielfalt des generierten Textes. Bei niedrigen Werten (nahe 0) wird das Modell deterministischer und vorhersehbarer, indem es die wahrscheinlichsten Wortoptionen wählt. Bei hohen Werten (z.B. um 1 oder mehr) werden die Antworten vielfältiger und kreativer, können aber an Kohärenz und Genauigkeit verlieren.

Beispiel: Bei temperature=0.2 erzeugt das Modell einen konservativeren und wiederholenden Text, bei temperature=0.8 einen vielfältigeren und unerwarteten.

Dies ist nützlich, um das Gleichgewicht zwischen Genauigkeit und Kreativität bei der Textgenerierung einzustellen.