OpenAI a récemment présenté un système en cinq niveaux pour évaluer ses avancées vers le développement de l’intelligence artificielle générale (AGI), selon un porte-parole de l’entreprise ayant parlé avec Bloomberg.
Ce nouveau système de classification a été partagé mardi avec les employés lors d’une réunion générale, dans le but de fournir un cadre clair pour comprendre l’évolution de l’IA. Cependant, ce système décrit une technologie hypothétique qui n’existe pas encore et pourrait être interprété comme une stratégie marketing pour attirer des investisseurs.
OpenAI a déjà affirmé que l’AGI — un terme nébuleux désignant un concept hypothétique d’un système d’IA capable d’exécuter des tâches nouvelles comme un humain sans formation spécialisée — est actuellement l’objectif principal de l’entreprise. La quête de cette technologie, qui pourrait remplacer les humains dans la plupart des travaux intellectuels, alimente une grande partie du battage médiatique persistant autour de la firme, bien que cette technologie serait probablement extrêmement perturbatrice pour la société.
Le PDG d’OpenAI, Sam Altman, a précédemment exprimé sa conviction que l’AGI pourrait être réalisée d’ici la fin de cette décennie. Une grande partie de ses messages publics concerne la gestion de la potentielle perturbation que l’AGI pourrait apporter à la société. Dans ce contexte, un système de classement pour communiquer les jalons atteints en interne sur le chemin vers l’AGI a du sens.
Les cinq niveaux d’OpenAI — qu’elle prévoit de partager avec les investisseurs — vont des capacités actuelles de l’IA à des systèmes potentiellement capables de gérer des organisations entières. L’entreprise estime que sa technologie actuelle (telle que GPT-4, qui alimente ChatGPT) se situe au Niveau 1, qui comprend les IA capables d’interactions conversationnelles.
Cependant, les dirigeants d’OpenAI auraient déclaré au personnel qu’ils sont sur le point d’atteindre le Niveau 2, surnommé « Reasoners ».
Les niveaux de l’intelligence artificielle selon OpenAI
Bloomberg liste les « cinq niveaux de l’intelligence artificielle » d’OpenAI comme suit :
- Niveau 1 : Chatbots—IA avec langage conversationnel.
- Niveau 2 : Reasoners—Résolution de problèmes de niveau humain.
- Niveau 3 : Agents — Systèmes capables d’agir de manière autonome.
- Niveau 4 : Innovators—IA pouvant aider à l’invention.
- Niveau 5 : Organizations—IA capable de gérer des organisations.
Un système d’IA de Niveau 2 serait capable de résoudre des problèmes basiques à un niveau comparable à celui d’un humain titulaire d’un doctorat, mais sans accès à des outils externes. Lors de la réunion générale, la direction d’OpenAI a présenté un projet de recherche utilisant leur modèle GPT-4 qui, selon les chercheurs, montre des signes de cette capacité de raisonnement proche de celle de l’humain, selon une personne proche de la discussion ayant parlé avec Bloomberg.
Les niveaux supérieurs : capacités hypothétiques
Les niveaux supérieurs de la classification d’OpenAI décrivent des capacités hypothétiques de plus en plus puissantes. Les « Agents » de Niveau 3 pourraient travailler de manière autonome sur des tâches pendant plusieurs jours. Les systèmes de Niveau 4 généreraient des innovations nouvelles. Le sommet, le Niveau 5, envisage une IA gérant des organisations entières.
Ce système de classification est encore en cours d’élaboration. OpenAI prévoit de recueillir des commentaires des employés, des investisseurs et des membres du conseil d’administration, affinant potentiellement les niveaux au fil du temps.
La problématique de la classification des capacités de l’IA
Tout système de classification de l’IA soulève des questions sur la possibilité de quantifier de manière significative les progrès de l’IA et ce qui constitue une avancée (ou même ce qui constitue un système d’IA « dangereux », comme dans le cas d’Anthropic). Jusqu’à présent, l’industrie technologique a une histoire de promesses excessives concernant les capacités de l’IA, et les modèles de progression linéaire comme celui d’OpenAI risquent potentiellement de nourrir des attentes irréalistes.
Il n’existe actuellement aucun consensus dans la communauté de recherche en IA sur la manière de mesurer les progrès vers l’AGI ou même si l’AGI est un objectif bien défini ou réalisable. En tant que tel, le système en cinq niveaux d’OpenAI doit probablement être considéré comme un outil de communication pour attirer les investisseurs, montrant les objectifs ambitieux de l’entreprise plutôt qu’une mesure scientifique ou même technique des progrès.
