Что хотят услышать интервьюеры:

Бот обычно не вызывает модель напрямую из UI или бизнес-логики, а обращается к ней через отдельный сервис или API-слой. Между ботом и моделью часто есть подготовка входных данных, проверка формата и постобработка ответа. Важно показать понимание, что модель — это один из компонентов системы, а не весь бот целиком.

Определение:

Бот обращается к модели через интерфейс инференса: это может быть HTTP/gRPC API, библиотечный вызов локальной модели или очередь задач с последующим получением результата. Обычно поток такой: бот принимает запрос, нормализует данные, отправляет их в модель, получает предсказание и преобразует его в ответ пользователю. Такой подход отделяет логику диалога от ML-части и упрощает масштабирование.

Пример использования:

Например, чат-бот поддержки получает вопрос пользователя, определяет намерение через ML-модель и выбирает сценарий ответа.

def handle_message(text: str) -> str:
    payload = {"text": text}

    # вызов сервиса модели
    prediction = model_client.predict(payload)

    intent = prediction["intent"]
    if intent == "refund":
        return "Понял, сейчас помогу с возвратом."
    elif intent == "delivery":
        return "Проверю статус доставки."
    return "Уточните, пожалуйста, ваш вопрос."

Пояснение кода:

Код показывает базовую схему взаимодействия. Сначала текст пользователя упаковывается в структуру, которую ожидает модель. Затем бот вызывает model_client.predict(...), то есть отдельный слой, отвечающий за обращение к модели. После получения результата бот интерпретирует предсказанный intent и формирует текст ответа.

Ключевые моменты:

Бот обычно общается с моделью через API, а не напрямую через бизнес-логику.
Перед вызовом модели данные часто нужно нормализовать, валидацировать и привести к нужному формату.
После ответа модели требуется постобработка: пороги уверенности, выбор сценария, форматирование ответа.
Модель и бот лучше развязывать по ответственности, чтобы их можно было независимо масштабировать и обновлять.
Для продакшена важны таймауты, ретраи, логирование и обработка ошибок модели.
Если модель тяжелая, часто используют асинхронный вызов или отдельный inference-сервис.

Как бот обращается к модели?