Tool/function calling в LLM (Large Language Models) — это механизм, позволяющий модели не только генерировать текст, но и вызывать внешние функции или инструменты для выполнения конкретных задач. Вместо того чтобы пытаться сгенерировать ответ полностью самостоятельно, модель может запросить выполнение функции, например, получить данные из API, выполнить вычисления или взаимодействовать с базой данных.

Это улучшает точность и расширяет возможности LLM, позволяя интегрировать их с реальными сервисами и получать актуальную информацию.

Пример: модель получает запрос "Покажи погоду в Москве" и вместо генерации текста о погоде вызывает функцию getWeather(city), которая возвращает актуальные данные, и затем LLM формирует ответ на основе результата вызова.

В Node.js это может выглядеть так:

async function handleRequest(input) {
  if (input.includes('погода')) {
    const city = extractCity(input);
    const weather = await getWeather(city); // вызов внешней функции
    return `Погода в ${city}: ${weather}`;
  }
  // другие случаи
}

Таким образом, tool/function calling расширяет возможности LLM, делая их более полезными и интегрируемыми.

Что такое tool/function calling в LLM?