V čom sa líši volanie funkcie od klasického few-shot prompting pre štruktúrovaný výstup?

Volanie funkcie v kontexte LLM je mechanizmus, pri ktorom model nielenže generuje text, ale vracia štruktúrované volanie funkcie s argumentmi, ktoré je možné priamo použiť v kóde. To umožňuje získať prísne štruktúrovaný výstup, ktorý je ľahko parsovateľný a použiteľný.

Klasické prompting few-shot pre štruktúrovaný výstup spočíva v pridávaní príkladov požadovaného formátu do promptu a model sa snaží generovať text v tomto formáte. To je však menej spoľahlivé, pretože model sa môže odchýliť od formátu, robiť chyby v štruktúre alebo syntaxe.

Hlavné rozdiely:

• Spoľahlivosť formátu: volanie funkcie garantuje prísnosť štruktúry, few-shot prompting nie.
• Spracovanie výstupu: volanie funkcie umožňuje priamo použiť výsledok ako volanie funkcie, few-shot vyžaduje dodatočné parsovanie.
• Jednoduchosť integrácie: volanie funkcie je vhodnejšie pre automatizáciu a integráciu s aplikáciami.

Príklad volania funkcie (pseudokód):

{
  "function_call": {
    "name": "create_event",
    "arguments": {
      "date": "2024-07-01",
      "title": "Stretnutie"
    }
  }
}