O que é um agente LLM? Em que se diferencia de um pipeline de prompt-chain?

Um agente LLM é um sistema que utiliza um grande modelo de linguagem (Large Language Model) não apenas para gerar texto, mas também para realizar tarefas complexas com a capacidade de interagir com ferramentas externas, APIs ou bases de dados. O agente pode tomar decisões, planear sequências de ações e adaptar-se aos resultados intermédios.

Ao contrário de um pipeline de cadeia de prompts, onde várias solicitações ao LLM são feitas sequencialmente, cada uma lidando com uma parte da tarefa, o agente possui maior autonomia e lógica de controlo do processo. A cadeia de prompts é uma sequência fixa de chamadas de modelos, enquanto o agente é um sistema mais flexível com capacidade de ramificação, tentativas e integração com serviços externos.

Exemplo:

• Cadeia de prompts: várias prompts são chamadas sequencialmente para processar o texto.
• Agente LLM: analisa a tarefa, decide quais ferramentas chamar e forma dinamicamente solicitações ao LLM e a outros serviços para alcançar o objetivo.