Kas yra function calling ir tool use šiuolaikinėse API LLM?

Funkcijos kvietimas šiuolaikiniuose LLM API yra galimybė modeliui ne tik generuoti tekstą, bet ir iš anksto apibrėžtų funkcijų su parametrais kvietimą, kuriuos jis pats formuoja pagal naudotojo užklausą. Tai leidžia integruoti LLM su išorinėmis paslaugomis arba vykdyti konkrečius veiksmus, pavyzdžiui, gauti orų prognozę arba rezervuoti bilietą.

Įrankių naudojimas — tai platesnė sąvoka, kai LLM naudoja išorinius įrankius (API, duomenų bazes, skaičiuotuvus ir kt.), kad gautų naujausią informaciją arba atliktų sudėtingus skaičiavimus, viršijančius jo vidines žinias.

Pavyzdys: užklausa "Parodyk orą Maskvoje" gali sukelti getWeather(city="Maskva") funkcijos kvietimą, kuris grąžins naujausius duomenis, ir LLM juos įtrauks į atsakymą.