Kas ir function calling un tool use mūsdienu API LLM?

Funkcijas izsaukt modernajās LLM API ir modeļa spēja ne tikai ģenerēt tekstu, bet arī izsaukt iepriekš definētas funkcijas ar parametriem, kurus tas pats veido, pamatojoties uz lietotāja pieprasījumu. Tas ļauj integrēt LLM ar ārējiem pakalpojumiem vai veikt konkrētas darbības, piemēram, iegūt laika prognozi vai rezervēt biļeti.

Instrumentu izmantošana ir plašāks jēdziens, kad LLM izmanto ārējos rīkus (API, datu bāzes, kalkulatorus utt.), lai iegūtu aktuālu informāciju vai veiktu sarežģītus aprēķinus, kas pārsniedz tā iekšējo zināšanu robežas.

Piemērs: pieprasījumā "Parādi laika apstākļus Maskavā" modelis var ģenerēt izsaukumu uz funkciju getWeather(city="Maskava"), kas sniegs aktuālus datus, un LLM tos iekļaus atbildē.