Co je to logit bias a kde se používá?

Bias logitů je metoda úpravy pravděpodobností výběru slov nebo tokenů v jazykových modelech (LLM) přidáním posunu (bias) k logitům — hodnotám, které před použitím funkce softmax jsou převedeny na pravděpodobnosti.

Použití biasu logitů umožňuje řídit pravděpodobnost výskytu určitých slov nebo frází v odpovědích modelu. Například lze zvýšit pravděpodobnost výběru potřebných termínů nebo naopak snížit pravděpodobnost nežádoucích slov.

Toto se používá pro:

• Kontrolu generování textu (například vyhýbání se toxickým slovům)
• Nastavení chování modelu pro konkrétní úkoly
• Zlepšení kvality a relevance odpovědí

Příklad: pokud zvýšíte logit pro slovo "Java" o kladnou hodnotu, model s větší pravděpodobností zvolí toto slovo v odpovědi.