Czym jest bias logit i gdzie jest używany?

Bias logit to metoda modyfikacji prawdopodobieństw wyboru słów lub tokenów w modelach językowych (LLM) poprzez dodanie przesunięcia (bias) do logitów, które są wartościami, które przed zastosowaniem funkcji softmax są przekształcane w prawdopodobieństwa.

Zastosowanie biasu logit pozwala kontrolować prawdopodobieństwo pojawienia się określonych słów lub fraz w odpowiedziach modelu. Na przykład, można zwiększyć prawdopodobieństwo wyboru potrzebnych terminów lub, odwrotnie, zmniejszyć prawdopodobieństwo niepożądanych słów.

Używa się tego do:

• Kontroli generacji tekstu (np. unikanie toksycznych słów)
• Dostosowania zachowania modelu do konkretnych zadań
• Poprawy jakości i trafności odpowiedzi

Przykład: jeśli zwiększymy logit dla słowa "Java" o wartość dodatnią, model z większym prawdopodobieństwem wybierze to słowo w odpowiedzi.