OpenAI : Cap sur la superintelligence et l’IA générale
Dans un post récent sur son blog personnel, le PDG d'OpenAI Sam Altman a annoncé un virage stratégique majeur pour l'entreprise pionnière en intelligence artificielle. Selon lui, OpenAI est en passe de réaliser son objectif initial de développer une intelligence artificielle générale (AGI). Forte de cette avancée, la société compte désormais se focaliser sur la création d'une IA dite "superintelligente", repoussant encore plus loin les limites du possible.
L'aube d'une ère nouvelle pour l'intelligence artificielle
Dans son message intitulé "Le futur glorieux", Sam Altman se montre particulièrement enthousiaste quant aux perspectives ouvertes par les IA superintelligentes. Selon lui, de tels systèmes pourraient "accélérer massivement les découvertes et l'innovation scientifiques bien au-delà de ce que nous sommes capables de faire par nous-mêmes, et ainsi augmenter considérablement l'abondance et la prospérité."
Une vision ambitieuse, qui soulève néanmoins quelques interrogations. Par le passé, Altman avait déjà évoqué l'éventualité d'une superintelligence dans un horizon de "quelques milliers de jours", précisant que son avènement serait "plus intense que ce que les gens pensent". Des propos qui témoignent à la fois de l'immensité du potentiel et des défis soulevés par une telle technologie.
Qu'entend-on exactement par AGI et superintelligence ?
Les termes AGI (intelligence artificielle générale) et superintelligence restent encore assez flous et sujets à interprétation. OpenAI a sa propre définition de l'AGI : "des systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement valorisables". L'entreprise et son partenaire Microsoft ont aussi établi un autre critère pour l'AGI : la capacité à générer au moins 100 milliards de dollars de profits.
Dans son post, Altman ne précise pas quelle définition il utilise, mais il semble faire référence à la première. Il évoque notamment la possibilité que des agents IA, capables d'effectuer certaines tâches de manière autonome, puissent "rejoindre la main-d'œuvre" et "changer matériellement la production des entreprises" dès cette année.
Des limites technologiques à dépasser
Si l'optimisme d'Altman est palpable, il n'en demeure pas moins que la technologie actuelle de l'IA présente encore d'importantes limitations. Elle peut produire des hallucinations, commettre des erreurs flagrantes aux yeux d'un humain, et s'avérer très coûteuse.
Cependant, le PDG d'OpenAI se montre confiant dans la capacité à surmonter ces obstacles, et ce dans un futur proche. "Nous sommes assez confiants que dans les prochaines années, tout le monde verra ce que nous voyons, et que le besoin d'agir avec un grand soin, tout en maximisant les bénéfices et l'autonomisation pour tous, est si important", écrit-il.
La question cruciale de la sûreté de l'IA
Alors qu'OpenAI annonce ce virage stratégique vers la superintelligence, la question de la sûreté de ces systèmes IA apparaît plus cruciale que jamais. L'entreprise a elle-même reconnu par le passé que réussir la transition vers un monde peuplé d'IA superintelligentes était "loin d'être garanti". Elle a aussi admis ne pas avoir toutes les réponses pour contrôler et empêcher une IA potentiellement superintelligente de devenir incontrôlable.
Malgré cela, OpenAI a récemment dissous plusieurs équipes dédiées à la sécurité de l'IA, et vu partir des chercheurs influents sur ces questions. Un paradoxe apparent qui soulève des interrogations, d'autant plus dans un contexte de restructuration visant à attirer plus d'investisseurs extérieurs.
Nous ne disposons pas d'une solution pour diriger ou contrôler une IA potentiellement superintelligente, et l'empêcher de devenir incontrôlable.
OpenAI, juillet 2023
Interrogé récemment sur les critiques pointant un manque d'attention sur la sécurité, Sam Altman a répondu laconiquement : "Je vous renvoie à notre bilan." Un bilan qui, espérons-le, saura apporter les garanties nécessaires pour aborder sereinement cette nouvelle ère de l'intelligence artificielle.
Car au-delà de l'enthousiasme légitime suscité par les promesses de l'IA superintelligente, c'est bien notre responsabilité collective de veiller à ce que ces technologies transformatrices soient développées et déployées de manière éthique et sûre, dans l'intérêt de tous. Un défi immense et passionnant, à la hauteur des opportunités extraordinaires qui se profilent à l'horizon.
