Что такое function calling и tool use в современных API LLM?
Ответ от нейросети
sobes.tech AI
Function calling в современных LLM API — это возможность модели не просто генерировать текст, а вызывать заранее определённые функции с параметрами, которые она сама формирует на основе запроса пользователя. Это позволяет интегрировать LLM с внешними сервисами или выполнять конкретные действия, например, получить погоду или забронировать билет.
Tool use — более широкий концепт, когда LLM использует внешние инструменты (API, базы данных, калькуляторы и т.п.) для получения актуальной информации или выполнения сложных вычислений, выходящих за рамки её внутреннего знания.
Пример: при запросе "Покажи погоду в Москве" модель может сгенерировать вызов функции getWeather(city="Москва"), которая вернёт актуальные данные, и LLM включит их в ответ.