Czym różni się prompting modeli instrukcyjnych od podstawowych LM?

Prompting w modelach instrukcyjnych (instruction-tuned models) różni się od podstawowych modeli językowych (LM) tym, że takie modele są lepiej wytrenowane do rozumienia i przestrzegania instrukcji zawartych w zapytaniu. W podstawowych LM generacja tekstu opiera się na probabilistycznym kontynuowaniu, bez wyraźnego zrozumienia zadania. Modele instrukcyjne skuteczniej interpretują zapytania, co pozwala na uzyskanie bardziej relewantnych i precyzyjnych odpowiedzi przy użyciu specjalnych wskazówek (prompt). Na przykład, przy zapytaniu "Napisz streszczenie tekstu", model instrukcyjny lepiej wykona to zadanie niż model podstawowy.