Mis on LLM-agent? Kuidas see erineb prompt-chain torust?

LLM-agent on süsteem, mis kasutab suurt keelemudelit (Large Language Model) mitte ainult teksti genereerimiseks, vaid ka keerukate ülesannete täitmiseks, omades võimalust suhelda väliste tööriistade, API-de või andmebaasidega. Agent võib teha otsuseid, planeerida tegevuste jada ja kohanduda vahepealsete tulemustega.

Erinevalt prompt-chain torustikust, kus mitu taotlust LLM-ile tehakse järjestikku, igaüks tegeleb osa ülesandest, on agentil suurem autonoomia ja protsessi juhtimise loogika. Prompt-chain on fikseeritud mudelite kutsumise ahel, samas kui agent on paindlikum süsteem, millel on võimalus harutada, teha korduvaid katseid ja integreeruda väliste teenustega.

Näide:

• Prompt-chain: mitu prompti kutsutakse järjestikku teksti töötlemiseks.
• LLM-agent: analüüsib ülesannet, otsustab, milliseid tööriistu kasutada ja koostab dünaamiliselt taotlusi LLM-ile ja teistele teenustele eesmärgi saavutamiseks.