Что такое chat template и зачем он нужен для инструктивных моделей?

Chat template — это заранее заданный формат или структура диалога, используемая для взаимодействия с инструктивными моделями (например, LLM, обученными выполнять инструкции). Он задаёт роли участников (например, пользователь, ассистент), порядок сообщений и контекст, что помогает модели лучше понять задачу и выдавать более релевантные ответы.

Зачем нужен chat template:

• Стандартизация диалогов для повышения качества ответов.
• Обеспечение контекста и ролей, чтобы модель знала, кто говорит и что ожидается.
• Упрощение интеграции с приложениями, где важна последовательность сообщений.

Пример простого шаблона:

[
  {"role": "system", "content": "Ты — полезный ассистент."},
  {"role": "user", "content": "Расскажи про chat template."}
]

Такой шаблон помогает модели понять, что она должна отвечать как ассистент, а не просто генерировать текст без контекста.