Какво е prompt tuning и къде се прилага?

Настройката на prompt е метод за адаптиране на големи езикови модели (LLM) без пълно повторно обучение на модела. Вместо да променя всички тегла на модела, настройката на prompt обучава малко количество допълнителни параметри, които действат като 'подсказки' (prompt), влияещи на поведението на модела.

Тя се прилага, когато е необходимо бързо и ефективно да се адаптира LLM към конкретна задача, като класификация на текст, генериране на отговори или превод, при ограничени ресурси. Това е особено полезно, когато няма възможност или желание да се преобучава цял модел поради неговия размер или цена.

Пример: вместо пълно фино настройване на модела GPT, може да се обучат само специални векторни представяния (soft prompts), които се подават на входа на модела и насочват неговата генерация в желаната посока.