Šta je LLM agent? Čime se razlikuje od prompt-chain pipeline-a?

LLM-agent — систем је која користи велики модел језика (Large Language Model) не само за генерисање текста, већ и за извођење сложених задатака са могућношћу интеракције са спољашњим алаткама, API-јима или базама података. Агент може доносити одлуке, планирати секвенце акција и прилагођавати се међустепеним резултатима.

За разлику од pipeline-а prompt-chain, где се више захтева према LLM-у извршава редом, при чему сваки обрађује део задатка, агент има већу аутономију и логику управљања процесом. Prompt-chain је фиксни ланац позива модела, док је агент флексибилнији систем са могућношћу раслојавања, поновних покушаја и интеграције са спољашњим сервисима.

Пример:

• Prompt-chain: неколико промптова се позивају редом за обраду текста.
• LLM-агент: анализира задатак, одлучује које алате позвати и динамички формира захтеве према LLM-у и другим сервисима за постизање циља.