Wat is de herhalingsstraf en de frequentie/aanwezigheidstraf?

Herhalingsboete — dit is een parameter dat wordt gebruikt in generatieve taalmodellen om de kans op herhaling van dezelfde woorden of zinnen in de tekst te verminderen. Het vermindert de kans dat tokens die al zijn gegenereerd worden gekozen, wat helpt om de tekst gevarieerder en natuurlijker te maken.

Frequentieboete en aanwezigheidsboete — dit zijn twee gerelateerde, maar verschillende manieren om de generatie te beïnvloeden:

• De frequentieboete vermindert de kans om een token te kiezen in verhouding tot hoe vaak het al in de gegenereerde tekst is verschenen. Hoe vaker een token voorkomt, hoe sterker de boete.

• De aanwezigheidsboete vermindert de kans om een token te kiezen als het al minstens één keer is verschenen, ongeacht het aantal herhalingen.

Voorbeeld van gebruik bij tekstgeneratie:

# Pseudocode voor het instellen van de generatie
def generate_text():
    model.generate(
        input_text,
        repetition_penalty=1.2,  # vermindert herhalingen
        frequency_penalty=0.5,   # straft vaak voorkomende tokens
        presence_penalty=0.3    # straft tokens die al in de tekst voorkomen
    )

Op deze manier helpen deze parameters de diversiteit te controleren en monotonie of overmatige herhalingen in de gegenereerde tekst te voorkomen.