Co je to function calling a tool use v moderních API LLM?

Volání funkce v moderních API LLM je schopnost modelu nejen generovat text, ale také volat předem definované funkce s parametry, které si sám formuje na základě požadavku uživatele. To umožňuje integrovat LLM s externími službami nebo provádět konkrétní akce, například získat počasí nebo rezervovat jízdenku.

Použití nástrojů je širší koncept, kdy LLM využívá externí nástroje (API, databáze, kalkulačky atd.) k získání aktuálních informací nebo k provedení složitých výpočtů přesahujících jeho interní znalosti.

Příklad: při požadavku "Ukaž počasí v Moskvě" může model vygenerovat volání funkce getWeather(city="Moskva"), která vrátí aktuální data, a LLM je začlení do odpovědi.