Sobes.tech
Senior
25

Какие бенчмарки оценки LLM вы знаете (MMLU, BBH, GSM8K, HumanEval)?

Компании, где спрашивали
Ростелеком
VK CloudVK Cloud

Ответ от нейросети

sobes.tech AI

Основные бенчмарки для оценки больших языковых моделей (LLM):

  • MMLU (Massive Multitask Language Understanding) — тестирует знания модели по широкому спектру академических и профессиональных дисциплин.
  • BBH (Big Bench Hard) — набор сложных задач, требующих рассуждений и комплексного понимания.
  • GSM8K (Grade School Math 8K) — задачи по математике уровня средней школы, проверяющие способность модели решать арифметические и логические задачи.
  • HumanEval — набор программных задач для оценки способности модели генерировать корректный и работающий код.

Эти бенчмарки помогают объективно сравнивать качество и возможности различных LLM в разных областях.