Como é que a chamada de função difere do prompting clássico de poucos exemplos para uma saída estruturada?

A chamada de função no contexto de LLM é um mecanismo em que o modelo não apenas gera texto, mas devolve uma chamada de função estruturada com argumentos que podem ser usados diretamente no código. Isso permite obter uma saída estritamente estruturada, fácil de analisar e usar.

O prompting de poucos exemplos clássico para uma saída estruturada é quando se adicionam exemplos do formato de saída desejado no prompt, e o modelo tenta gerar texto nesse formato. No entanto, isso é menos confiável, pois o modelo pode desviar do formato, cometer erros na estrutura ou na sintaxe.

Principais diferenças:

• Confiabilidade do formato: a chamada de função garante a rigidez da estrutura, o prompting de poucos exemplos não.
• Processamento da saída: a chamada de função permite usar o resultado como uma chamada de função diretamente, o prompting de poucos exemplos requer parsing adicional.
• Facilidade de integração: a chamada de função é melhor para automação e integração com aplicações.

Exemplo de chamada de função (pseudocódigo):

{
  "function_call": {
    "name": "create_event",
    "arguments": {
      "date": "2024-07-01",
      "title": "Reunião"
    }
  }
}