Mi az a function calling és a tool use a modern API LLM-ben?

A funkcióhívás a modern LLM API-kban az a képesség, hogy a modell nemcsak szöveget generál, hanem előre meghatározott funkciókat hív meg paraméterekkel, amelyeket maga alakít ki a felhasználói kérés alapján. Ez lehetővé teszi az LLM integrálását külső szolgáltatásokkal vagy konkrét műveletek végrehajtását, például időjárás lekérését vagy jegyfoglalást.

Az eszközhasználat egy szélesebb fogalom, amikor az LLM külső eszközöket (API-k, adatbázisok, kalkulátorok stb.) használ az aktuális információk megszerzéséhez vagy összetett számítások elvégzéséhez, amelyek meghaladják belső tudását.

Példa: a "Mutasd az időjárást Moszkvában" kérés esetén a modell generálhat egy getWeather(city="Moszkva") függvényhívást, amely aktuális adatokat ad vissza, és az LLM ezeket beilleszti a válaszba.