Was ist die Wiederholungsstrafe und die Frequenz-/Präsenzstrafe?

Wiederholungsstrafe — ist ein Parameter, der in generativen Sprachmodellen verwendet wird, um die Wahrscheinlichkeit der Wiederholung derselben Wörter oder Phrasen im Text zu verringern. Er reduziert die Wahrscheinlichkeit, Tokens zu wählen, die bereits generiert wurden, was dazu beiträgt, den Text vielfältiger und natürlicher zu gestalten.

Häufigkeitsstrafe und Präsenzstrafe — sind zwei verwandte, aber unterschiedliche Methoden, die Generierung zu beeinflussen:

• Die Häufigkeitsstrafe verringert die Wahrscheinlichkeit, ein Token proportional dazu zu wählen, wie oft es bereits im generierten Text vorkommt. Je häufiger ein Token vorkommt, desto stärker ist die Strafe.

• Die Präsenzstrafe verringert die Wahrscheinlichkeit, ein Token zu wählen, wenn es bereits mindestens einmal vorkam, unabhängig von der Anzahl der Wiederholungen.

Beispiel für die Verwendung bei der Textgenerierung:

# Pseudocode zur Einstellung der Generierung
def generate_text():
    model.generate(
        input_text,
        repetition_penalty=1.2,  # verringert Wiederholungen
        frequency_penalty=0.5,   # bestraft häufig vorkommende Tokens
        presence_penalty=0.3    # bestraft Tokens, die bereits im Text erscheinen
    )

Auf diese Weise helfen diese Parameter, die Vielfalt zu kontrollieren und Monotonie oder übermäßige Wiederholungen im generierten Text zu vermeiden.