O que são function calling e tool use nas APIs modernas de LLM?

Chamada de função nas APIs modernas de LLM é a capacidade do modelo não apenas de gerar texto, mas de chamar funções predefinidas com parâmetros que ele mesmo forma com base na solicitação do usuário. Isso permite integrar o LLM com serviços externos ou realizar ações específicas, como obter o clima ou reservar um bilhete.

O uso de ferramentas é um conceito mais amplo, quando o LLM utiliza ferramentas externas (API, bancos de dados, calculadoras, etc.) para obter informações atualizadas ou realizar cálculos complexos que vão além do seu conhecimento interno.

Exemplo: ao solicitar "Mostrar o clima em Moscou", o modelo pode gerar uma chamada para a função getWeather(city="Moscou"), que retornará dados atualizados, e o LLM os incluirá na resposta.