Co je AutoGPT a BabyAGI? Jaká jsou jejich základní omezení?

AutoGPT a BabyAGI jsou příklady autonomních agentů postavených na velkých jazykových modelech (LLM), jako je GPT. Jsou schopni samostatně stanovovat cíle, plánovat úkoly a je plnit, přičemž využívají řetězec volání LLM k generování a hodnocení akcí.

AutoGPT je experimentální projekt, který využívá GPT k automatickému plnění složitých úkolů tím, že je rozděluje na podúkoly a postupně je řeší bez stálého zásahu člověka.

BabyAGI je zjednodušená verze autonomního agenta, která demonstruje základní principy autonomního plánování a plnění úkolů s pomocí LLM, obvykle s omezeným souborem funkcí a zjednodušenou logikou.

Základní omezení:

• Chybí skutečné porozumění a vědomí. Tito agenti fungují na základě statistických jazykových modelů, bez skutečného porozumění kontextu nebo cílů.
• Omezená dlouhodobá paměť. Obvykle je paměť realizována ukládáním textových poznámek nebo databází, což omezuje schopnost složitého učení a adaptace.
• Chyby a nepředvídatelnost. Autonomní akce mohou vést k chybám, protože LLM nezaručují správnost nebo bezpečnost rozhodnutí.
• Závislost na kvalitě a objemu dat. Výsledky jsou silně závislé na tréninkových datech a parametrech modelu.
• Vysoké výpočetní nároky a zpoždění. Neustálé volání LLM vyžaduje značné zdroje a čas.

Proto jsou AutoGPT a BabyAGI zajímavými prototypy autonomních systémů založených na LLM, ale jsou daleko od plnohodnotné obecné umělé inteligence (AGI).