Wat zijn function calling en tool use in moderne API LLM?

Function calling in moderne LLM API's is de mogelijkheid dat het model niet alleen tekst genereert, maar ook vooraf gedefinieerde functies met parameters aanroept die het zelf op basis van de gebruikersvraag vormt. Dit maakt het mogelijk om LLM te integreren met externe diensten of specifieke acties uit te voeren, zoals het verkrijgen van weerinformatie of het reserveren van een ticket.

Toolgebruik is een breder concept waarbij LLM externe hulpmiddelen (API's, databases, rekenmachines, enz.) gebruikt om actuele informatie te verkrijgen of complexe berekeningen uit te voeren die buiten zijn interne kennis liggen.

Voorbeeld: bij de vraag "Toon het weer in Moskou" kan het model een call genereren naar de functie getWeather(city="Moskou"), die actuele gegevens teruggeeft, en het LLM zal deze in de reactie opnemen.