Sobes.tech
Middle
16

Если у нас есть тулы или MCP — как LLM вызывает их?

Компании, где спрашивали
СБЕРСБЕР

Ответ от нейросети

sobes.tech AI

LLM (Large Language Model) вызывает внешние инструменты (тулы) или MCP (Multi-Channel Platforms) через интеграционные интерфейсы, обычно используя API. Процесс выглядит так:

  1. LLM получает запрос пользователя.
  2. На основе запроса и контекста модель определяет, что для ответа нужно вызвать внешний тул.
  3. LLM формирует запрос к API этого инструмента, передавая необходимые параметры.
  4. Инструмент обрабатывает запрос и возвращает результат.
  5. LLM получает ответ и интегрирует его в итоговый ответ пользователю.

Пример вызова API из кода на Python:

import requests

def call_tool_api(input_data):
    response = requests.post('https://api.tool.com/execute', json={'input': input_data})
    return response.json()

# Внутри логики LLM
user_input = "Получить прогноз погоды"
tool_response = call_tool_api(user_input)
print(tool_response['result'])

Таким образом, LLM выступает как оркестратор, направляя запросы к нужным тулзам и собирая ответы для пользователя.