Middle
¿En qué forma clasifica la LLM la consulta — qué exactamente devuelve para la selección del escenario?
sobes.tech AI
Respuesta de la IA
Большие языковые модели (LLM) для классификации запроса обычно возвращают либо:
- Классификационный меток (label) — например, категорию или сценарий, к которому относится запрос.
- Вероятности (confidence scores) для каждого возможного класса, что позволяет выбрать наиболее подходящий сценарий.
Внутренне LLM может выдавать распределение вероятностей по классам, а на выходе API обычно возвращается наиболее вероятный класс или список с вероятностями.
Пример ответа классификатора:
{
"intent": "book_flight",
"confidence": 0.92
}
Это позволяет системе определить, какой сценарий обработки запроса запускать дальше.