Middle — Senior
Kas yra logit bias ir kur jis naudojamas?
sobes.tech AI
Atsakymas iš AI
Logit bias yra metodas, skirtas modifikuoti žodžių ar tokenų pasirinkimo tikimybes kalbos modeliuose (LLM), pridedant nuokrypį (bias) prie logitų — reikšmių, kurios prieš taikant softmax funkciją yra paverčiamos į tikimybes.
Logit bias taikymas leidžia kontroliuoti tam tikrų žodžių ar frazių pasirodymo tikimybę modelio atsakymuose. Pavyzdžiui, galima padidinti būtinų terminų pasirinkimo tikimybę arba, atvirkščiai, sumažinti nepageidaujamų žodžių tikimybę.
Tai naudojama:
- Teksto generavimo kontrolė (pvz., vengiant toksiškų žodžių)
- Modelio elgesio pritaikymas konkretiems užduotims
- Atsakymų kokybės ir aktualumo gerinimas
Pavyzdys: jei padidinsite logitą žodžiui "Java" teigiamu skaičiumi, modelis dažniau pasirinks šį žodį atsakyme.