Какво е учене в контекст и защо работи?

Обучението в контекст е способността на големите езикови модели (LLM) да учат от примери, представени в самия въпрос, без допълнително актуализиране на теглата на модела. Тоест, моделът получава няколко примера за задачата директно в текста на въпроса и на базата им генерира отговор за нов случай.

Защо това работи:

• Моделът е обучен върху огромно количество текстове и примери, което му позволява да разпознава модели и връзки между входните данни и отговорите.
• Предоставяйки примери в контекста, моделът "разбира", коя задача трябва да бъде решена, и адаптира своето поведение съответно.
• Това е подобно на условното програмиране: моделът използва контекста като инструкция.

Пример: ако в заявката се дадат няколко двойки "въпрос — отговор", моделът ще продължи последователността и ще отговори на нов въпрос в същия стил.

По този начин, обучението в контекст позволява да се използва мощта на LLM без допълнително обучение, просто като се променят входните данни.