Mi az az AutoGPT és BabyAGI? Milyen alapvető korlátaik vannak?

Az AutoGPT és BabyAGI példák autonóm ügynökökre, amelyeket nagy nyelvi modellek (LLM), például GPT alapján építettek. Képesek önállóan célokat kitűzni, feladatokat tervezni és végrehajtani, az LLM hívási láncát használva az akciók generálására és értékelésére.

AutoGPT egy kísérleti projekt, amely az GPT-t használja összetett feladatok automatikus végrehajtására, azokat alkatrészekre bontva, és folyamatos emberi beavatkozás nélkül egymás után megoldva.

BabyAGI egy egyszerűsített változata egy autonóm ügynöknek, amely bemutatja az autonóm tervezés és végrehajtás alapelveit az LLM segítségével, általában korlátozott funkciókészlettel és egyszerűsített logikával.

Alapvető korlátozások:

• Valós megértés és tudat hiánya. Ezek az ügynökök statisztikai nyelvi modellek alapján működnek, valódi megértés nélkül a kontextusról vagy célokról.
• Korlátozott hosszú távú memória. Általában a memória szöveges jegyzetek vagy adatbázisok tárolásával valósul meg, ami korlátozza a komplex tanulási és alkalmazkodási képességet.
• Hibák és kiszámíthatatlanság. Az autonóm műveletek hibákhoz vezethetnek, mivel az LLM-ek nem garantálják a döntések helyességét vagy biztonságát.
• Az adatok minőségétől és mennyiségétől való függés. Az eredmények nagyban függenek a tanító adatoktól és a modell paramétereitől.
• Magas számítási erőforrások és késleltetések. Az állandó LLM hívások jelentős erőforrásokat és időt igényelnek.

Ezért az AutoGPT és a BabyAGI érdekes prototípusai az LLM-alapú autonóm rendszereknek, de messze vannak a teljes körű általános mesterséges intelligenciától (AGI).