Co je to prompt tuning a kde se používá?

Ladění promptů je metoda přizpůsobení velkých jazykových modelů (LLM) bez úplného přeškolení modelu. Místo změny všech vah modelu se trénuje malá množina dalších parametrů, které fungují jako 'nápovědy' (prompt) a ovlivňují chování modelu.

Používá se, když je třeba rychle a efektivně přizpůsobit LLM konkrétnímu úkolu, například klasifikaci textu, generování odpovědí nebo překlad, při omezených zdrojích. To je obzvlášť užitečné, když není možné nebo žádoucí přeškolit celý model kvůli jeho velikosti nebo nákladům.

Příklad: místo úplného doladění modelu GPT lze trénovat pouze speciální vektorové reprezentace (soft prompts), které se zadávají na vstup modelu a směřují jeho generaci požadovaným směrem.