Prompt tuning nedir ve nerelerde kullanılır?

Prompt ayarlaması, büyük dil modellerini (LLM) tamamen yeniden eğitmeden uyarlama yöntemidir. Modelin tüm ağırlıklarını değiştirmek yerine, prompt ayarlaması, modelin davranışını etkileyen 'ipucu' (prompt) rolü gören küçük bir ek parametre kümesini eğitir.

Bu yöntem, sınırlı kaynaklarla belirli bir göreve hızlı ve etkili bir şekilde LLM uyarlamak gerektiğinde kullanılır, örneğin metin sınıflandırma, cevap üretimi veya çeviri gibi. Bu, modelin boyutu veya maliyeti nedeniyle tüm modeli yeniden eğitme imkanı veya isteği olmadığında özellikle faydalıdır.

Örnek: GPT modelinin tam ince ayar yapılması yerine, modele giriş olarak verilen ve yönlendiren özel vektör temsilleri (soft prompts) eğitilebilir.