Что такое AutoGPT и BabyAGI? Какие у них фундаментальные ограничения?

AutoGPT и BabyAGI — это примеры автономных агентов, построенных на базе больших языковых моделей (LLM), таких как GPT. Они способны самостоятельно ставить цели, планировать задачи и выполнять их, используя цепочку вызовов LLM для генерации и оценки действий.

AutoGPT — это экспериментальный проект, который использует GPT для автоматического выполнения сложных задач, разбивая их на подзадачи и последовательно решая их без постоянного вмешательства человека.

BabyAGI — упрощённая версия автономного агента, который демонстрирует базовые принципы автономного планирования и выполнения задач с помощью LLM, обычно с ограниченным набором функций и упрощённой логикой.

Фундаментальные ограничения:

• Отсутствие истинного понимания и сознания. Эти агенты работают на основе статистических моделей языка, не обладая реальным пониманием контекста или целей.
• Ограниченная долговременная память. Обычно память реализована через сохранение текстовых заметок или баз данных, что ограничивает способность к сложному обучению и адаптации.
• Ошибки и непредсказуемость. Автономные действия могут приводить к ошибкам, так как LLM не гарантируют корректность или безопасность решений.
• Зависимость от качества и объёма данных. Результаты сильно зависят от обучающих данных и параметров модели.
• Высокие вычислительные ресурсы и задержки. Постоянные вызовы LLM требуют значительных ресурсов и времени.

Таким образом, AutoGPT и BabyAGI — это интересные прототипы автономных систем на базе LLM, но они далеки от полноценного искусственного интеллекта общего назначения (AGI).