Middle
16
Если у нас есть тулы или MCP — как LLM вызывает их?
Компании, где спрашивали
Ответ от нейросети
sobes.tech AI
LLM (Large Language Model) вызывает внешние инструменты (тулы) или MCP (Multi-Channel Platforms) через интеграционные интерфейсы, обычно используя API. Процесс выглядит так:
- LLM получает запрос пользователя.
- На основе запроса и контекста модель определяет, что для ответа нужно вызвать внешний тул.
- LLM формирует запрос к API этого инструмента, передавая необходимые параметры.
- Инструмент обрабатывает запрос и возвращает результат.
- LLM получает ответ и интегрирует его в итоговый ответ пользователю.
Пример вызова API из кода на Python:
import requests
def call_tool_api(input_data):
response = requests.post('https://api.tool.com/execute', json={'input': input_data})
return response.json()
# Внутри логики LLM
user_input = "Получить прогноз погоды"
tool_response = call_tool_api(user_input)
print(tool_response['result'])
Таким образом, LLM выступает как оркестратор, направляя запросы к нужным тулзам и собирая ответы для пользователя.