Middle
LLM sorğunu hansı formada təsnif edir — ssenarinin seçimi üçün dəqiq nə geri qaytarır?
sobes.tech Süni İntellekt
AI-dan cavab
Большие языковые модели (LLM) для классификации запроса обычно возвращают либо:
- Классификационный меток (label) — например, категорию или сценарий, к которому относится запрос.
- Вероятности (confidence scores) для каждого возможного класса, что позволяет выбрать наиболее подходящий сценарий.
Внутренне LLM может выдавать распределение вероятностей по классам, а на выходе API обычно возвращается наиболее вероятный класс или список с вероятностями.
Пример ответа классификатора:
{
"intent": "book_flight",
"confidence": 0.92
}
Это позволяет системе определить, какой сценарий обработки запроса запускать дальше.