Mi az a logit bias és hol használják?

A logit torzítás egy módszer a nyelvi modellek (LLM) szavak vagy tokenek választási valószínűségének módosítására úgy, hogy torzítást (bias) adunk a logitokhoz — ezek értékek, amelyeket a softmax függvény alkalmazása előtt alakítanak át valószínűségekké.

A logit torzítás alkalmazásával szabályozhatjuk, hogy bizonyos szavak vagy kifejezések milyen valószínűséggel jelennek meg a modell válaszaiban. Például növelhetjük a szükséges kifejezések kiválasztásának valószínűségét, vagy csökkenthetjük a nem kívánt szavak valószínűségét.

Ez a következők céljából használható:

• Szöveg generálásának irányítása (pl. toxikus szavak elkerülése)
• A modell viselkedésének beállítása adott feladatokra
• A válaszok minőségének és relevanciájának javítása

Példa: ha növeljük a "Java" szó logit értékét pozitív számra, a modell nagyobb valószínűséggel választja ezt a szót a válaszban.