Czym są function calling i tool use w nowoczesnych API LLM?

Wywołanie funkcji w nowoczesnych API LLM to możliwość modelu nie tylko generowania tekstu, ale także wywoływania wcześniej zdefiniowanych funkcji z parametrami, które sam formułuje na podstawie zapytania użytkownika. Pozwala to na integrację LLM z zewnętrznymi usługami lub wykonywanie konkretnych działań, np. pobranie pogody lub rezerwacja biletu.

Użycie narzędzi to szerszy koncept, gdy LLM korzysta z zewnętrznych narzędzi (API, bazy danych, kalkulatory itp.) w celu uzyskania aktualnych informacji lub wykonania skomplikowanych obliczeń wykraczających poza jego wewnętrzną wiedzę.

Przykład: przy zapytaniu "Pokaż pogodę w Moskwie" model może wygenerować wywołanie funkcji getWeather(city="Moskwa"), które zwróci aktualne dane, a LLM włączy je do odpowiedzi.