Mis on function calling ja tool use kaasaegsetes API LLM-ides?

Funktsiooni kutsumine kaasaegsetes LLM API-des on võimekus, kus mudel mitte ainult ei genereeri teksti, vaid ka kutsub ette määratletud funktsioone koos parameetritega, mida ta ise kasutaja päringu põhjal vormib. See võimaldab integreerida LLM-i väliste teenustega või täita konkreetseid toiminguid, näiteks saada ilma või broneerida pilet.

Tööriistade kasutamine on laiem kontseptsioon, kus LLM kasutab väliseid tööriistu (API-sid, andmebaase, kalkulaatoreid jms), et saada ajakohast teavet või teha keerukaid arvutusi, mis ületavad tema sisemisi teadmisi.

Näide: päringuga "Näita ilma Moskvas" võib mudel genereerida kõne funktsioonile getWeather(city="Moskva"), mis tagastab ajakohased andmed, ning LLM lisab need vastusesse.