Was sind Function Calling und Tool Use in modernen API-LLMs?

Funktionsaufruf in modernen LLM-APIs ist die Fähigkeit des Modells, nicht nur Text zu generieren, sondern auch vordefinierte Funktionen mit Parametern aufzurufen, die es selbst basierend auf der Anfrage des Benutzers formt. Dies ermöglicht die Integration von LLM mit externen Diensten oder die Durchführung spezifischer Aktionen, z.B. Wetter abrufen oder Ticket buchen.

Tool-Nutzung ist ein weiter gefasster Begriff, bei dem das LLM externe Werkzeuge (APIs, Datenbanken, Taschenrechner usw.) verwendet, um aktuelle Informationen zu erhalten oder komplexe Berechnungen durchzuführen, die über sein internes Wissen hinausgehen.

Beispiel: Bei der Anfrage "Zeige das Wetter in Moskau" kann das Modell einen Funktionsaufruf getWeather(city="Moskau") generieren, der aktuelle Daten zurückgibt, und das LLM wird diese in die Antwort integrieren.