Какво е function calling и tool use в съвременните API LLM?

Обаждане на функция в съвременните API на LLM е възможността моделът не само да генерира текст, но и да извиква предварително дефинирани функции с параметри, които сам формулира въз основа на заявката на потребителя. Това позволява интегриране на LLM с външни услуги или изпълнение на конкретни действия, като например получаване на прогноза за времето или резервиране на билет.

Използването на инструменти е по-широка концепция, при която LLM използва външни инструменти (API, бази данни, калкулатори и др.) за получаване на актуална информация или за извършване на сложни изчисления, които надхвърлят неговите вътрешни знания.

Пример: при заявка "Покажи времето в Москва" моделът може да генерира извикване към функцията getWeather(city="Москва"), която ще върне актуални данни, и LLM ще ги включи в отговора.