Mis on prompt tuning ja kus seda kasutatakse?

Prompt tuning on meetod suurte keelemudelite (LLM) kohandamiseks ilma kogu mudeli uuesti treenimata. Selle asemel, et muuta kõiki mudeli kaalusid, õpib prompt tuning väikese hulga täiendavate parameetritega, mis toimivad kui 'nõuanded' (prompt) ja mõjutavad mudeli käitumist.

Seda kasutatakse, kui on vaja kiiresti ja tõhusalt kohandada LLM-i konkreetseks ülesandeks, näiteks teksti klassifitseerimiseks, vastuste genereerimiseks või tõlkimiseks, piiratud ressurssidega. See on eriti kasulik, kui kogu mudeli uuesti treenimine pole võimalik või soovitav selle suuruse või maksumuse tõttu.

Näide: kogu GPT-mudeli fine-tuningu asemel võib treenida ainult spetsiaalseid vektorialuseid esitusi (soft prompts), mis sisestatakse mudeli sisendisse ja juhivad selle genereerimist soovitud suunas.