Wat is logit bias en waar wordt het gebruikt?

Logit bias is een methode om de waarschijnlijkheid van het kiezen van woorden of tokens in taalmodellen (LLM) te wijzigen door een bias toe te voegen aan de logits — waarden die vóór het toepassen van de softmax-functie worden omgezet in waarschijnlijkheden.

Het toepassen van logit bias stelt je in staat om de kans te controleren dat bepaalde woorden of zinnen in de antwoorden van het model verschijnen. Bijvoorbeeld, je kunt de kans vergroten dat benodigde termen worden gekozen of, omgekeerd, de kans op ongewenste woorden verminderen.

Dit wordt gebruikt voor:

• Controle over tekstgeneratie (bijvoorbeeld het vermijden van toxische woorden)
• Het aanpassen van het gedrag van het model voor specifieke taken
• Het verbeteren van de kwaliteit en relevantie van de antwoorden

Voorbeeld: als je de logit voor het woord "Java" verhoogt met een positieve waarde, zal het model dit woord met grotere waarschijnlijkheid kiezen in het antwoord.