Что такое contrastive search в декодинге?

Contrastive search — это метод декодирования в генеративных языковых моделях, который направлен на улучшение качества сгенерированного текста за счёт балансировки между вероятностью токенов и разнообразием вывода. В отличие от жадного поиска или сэмплинга, contrastive search пытается минимизировать повторения и избегать слишком предсказуемых или слишком случайных вариантов.

Идея в том, чтобы выбирать следующий токен не только по максимальной вероятности, но и с учётом контраста между кандидатами, что помогает модели избегать тупиковых или шаблонных ответов. Это достигается путём оценки кандидатов по двум критериям: вероятности и степени различия (diversity) с уже сгенерированным текстом.

Примерно алгоритм работает так:

• Генерируется множество кандидатов для следующего токена.
• Для каждого кандидата вычисляется скор, учитывающий вероятность и меру разнообразия относительно предыдущих токенов.
• Выбирается кандидат с оптимальным балансом между вероятностью и разнообразием.

Это позволяет получить более связный и разнообразный текст, чем при классическом жадном поиске, и более управляемый, чем при случайном сэмплинге.