Čo je LLM agent? Čím sa líši od pipeline prompt-chain?

Agent LLM je systém, ktorý využíva veľký jazykový model (Large Language Model) nielen na generovanie textu, ale aj na vykonávanie zložitých úloh s možnosťou interakcie s externými nástrojmi, API alebo databázami. Agent môže prijímať rozhodnutia, plánovať sekvencie akcií a prispôsobovať sa medziľahlým výsledkom.

Na rozdiel od pipeline prompt-chain, kde je niekoľko požiadaviek na LLM vykonávaných sekvenčne, pričom každá rieši časť úlohy, má agent väčšiu autonómiu a logiku riadenia procesu. Prompt-chain je pevná reťazec volaní modelov, zatiaľ čo agent je flexibilnejší systém s možnosťou rozvetvenia, opakovaných pokusov a integrácie s externými službami.

Príklad:

• Prompt-chain: niekoľko promptov je volaných sekvenčne na spracovanie textu.
• LLM-agent: analyzuje úlohu, rozhoduje, ktoré nástroje volať a dynamicky tvorí požiadavky na LLM a ďalšie služby na dosiahnutie cieľa.