Qu'est-ce qu'AutoGPT et BabyAGI ? Quelles sont leurs limitations fondamentales ?

AutoGPT et BabyAGI sont des exemples d'agents autonomes construits sur de grands modèles de langage (LLM), tels que GPT. Ils sont capables de fixer des objectifs, de planifier des tâches et de les exécuter de manière autonome, en utilisant une chaîne d'appels à LLM pour générer et évaluer des actions.

AutoGPT est un projet expérimental qui utilise GPT pour exécuter automatiquement des tâches complexes, en les décomposant en sous-tâches et en les résolvant successivement sans intervention humaine constante.

BabyAGI est une version simplifiée d'un agent autonome qui démontre les principes fondamentaux de la planification et de l'exécution autonomes des tâches avec l'aide de LLM, généralement avec un ensemble limité de fonctions et une logique simplifiée.

Limitations fondamentales :

• Absence de compréhension et de conscience réelles. Ces agents fonctionnent sur la base de modèles statistiques de langage, sans posséder une compréhension réelle du contexte ou des objectifs.
• Mémoire à long terme limitée. La mémoire est généralement implémentée par la sauvegarde de notes textuelles ou de bases de données, ce qui limite la capacité d'apprentissage et d'adaptation complexes.
• Erreurs et imprévisibilité. Les actions autonomes peuvent conduire à des erreurs, car les LLM ne garantissent pas la correction ou la sécurité des décisions.
• Dépendance à la qualité et au volume des données. Les résultats dépendent fortement des données d'entraînement et des paramètres du modèle.
• Ressources informatiques importantes et délais. Les appels constants à LLM nécessitent des ressources et du temps importants.

Ainsi, AutoGPT et BabyAGI sont des prototypes intéressants de systèmes autonomes basés sur LLM, mais ils sont loin d'une intelligence artificielle générale (AGI) complète.