Как се различава извикването на функция от класическото few-shot prompting за структурирано изход?

Функционално извикване в контекста на LLM е механизъм, при който моделът не просто генерира текст, а връща структурирано извикване на функция с аргументи, които могат да бъдат директно използвани в кода. Това позволява да се получи строго структурирана изходна информация, която е лесна за парсване и използване.

Класическото prompting few-shot за структурирана изходна информация включва добавяне на примери за желания формат в промпта, и моделът се опитва да генерира текст в този формат. Това обаче е по-малко надеждно, тъй като моделът може да се отклони от формата, да прави грешки в структурата или синтаксиса.

Основни разлики:

• Надеждност на формата: функционалното извикване гарантира строгостта на структурата, prompting few-shot — не.
• Обработка на изхода: функционалното извикване позволява директно използване на резултата като извикване на функция, prompting few-shot изисква допълнително парсване.
• Удобство при интеграция: функционалното извикване е по-подходящо за автоматизация и интеграция с приложения.

Пример за функционално извикване (псевдокод):

{
  "function_call": {
    "name": "create_event",
    "arguments": {
      "date": "2024-07-01",
      "title": "Среща"
    }
  }
}