Šta je prompt tuning i gde se primenjuje?

Промпт tuning је метода адаптације великих језичких модела (LLM) без потпуног поновног тренирања модела. Уместо да мења сва тежина модела, prompt tuning тренира малу количину додатних параметара који делују као 'савети' (prompt), утичући на понашање модела.

Примењује се када је потребно брзо и ефикасно прилагодити LLM одређеном задатку, као што су класификација текста, генерисање одговора или превод, уз ограничене ресурсе. Ово је посебно корисно када нема могућности или жеље да се цео модел поново тренира због његове величине или трошкова.

Пример: уместо потпуног фине-тјунинга GPT модела, могу се тренирати само посебне векторске представе (soft prompts), које се дају на улаз модела и усмеравају његову генерацију у жељеном правцу.