Čo je to function calling a tool use v moderných API LLM?

Volanie funkcie v moderných API LLM je schopnosť modelu nielen generovať text, ale aj volať vopred definované funkcie s parametrami, ktoré si sám tvorí na základe požiadavky používateľa. To umožňuje integrovať LLM s externými službami alebo vykonávať špecifické akcie, napríklad získať počasie alebo rezervovať lístok.

Použitie nástrojov je širší koncept, keď LLM využíva externé nástroje (API, databázy, kalkulačky atď.) na získanie aktuálnych informácií alebo vykonanie zložitých výpočtov, ktoré presahujú jeho interné znalosti.

Príklad: pri požiadavke "Ukáž počasie v Moskve" môže model generovať volanie funkcie getWeather(city="Moskva"), ktorá vráti aktuálne údaje, a LLM ich začlení do odpovede.