Šta je function calling i tool use u savremenim API LLM?

Pozivanje funkcije u savremenim API-jevima LLM je mogućnost modela da ne samo generiše tekst, već i da pozove unapred definisane funkcije sa parametrima koje sam formira na osnovu zahteva korisnika. Ovo omogućava integraciju LLM sa spoljnim servisima ili izvršavanje specifičnih radnji, poput dobijanja vremenske prognoze ili rezervacije karte.

Korišćenje alata je širi koncept, kada LLM koristi spoljne alate (API-jeve, baze podataka, kalkulatore itd.) za dobijanje aktuelnih informacija ili izvršavanje složenih proračuna koji prevazilaze njegove interne sposobnosti.

Primer: pri zahtevu "Prikaži vremensku prognozu u Moskvi", model može generisati poziv funkciji getWeather(city="Moskva"), koja će vratiti aktuelne podatke, a LLM će ih uključiti u odgovor.