Eric Schmidt Critique le Projet Manhattan pour l’AGI

Et si la quête de l’intelligence artificielle suprême nous menait droit à un conflit mondial ? Cette question, aussi troublante que fascinante, est au cœur d’un récent débat qui agite les sphères technologiques et politiques. Dans un document stratégique publié en mars 2025, Eric Schmidt, ancien PDG de Google, s’oppose fermement à l’idée d’un "Projet Manhattan" pour développer une **intelligence artificielle générale** (AGI). Accompagné de figures influentes comme Alexandr Wang de Scale AI et Dan Hendrycks du Center for AI Safety, il propose une vision radicalement différente : une approche défensive pour éviter une escalade dangereuse avec des puissances comme la Chine.

Une Course à l’AGI : Opportunité ou Menace Mondiale ?

La comparaison avec le Projet Manhattan, qui a donné naissance à la bombe atomique dans les années 1940, n’est pas anodine. À l’époque, les États-Unis avaient mobilisé des ressources colossales pour dominer une technologie révolutionnaire. Aujourd’hui, certains leaders américains, y compris des membres du Congrès et le secrétaire à l’Énergie Chris Wright, appellent à une initiative similaire pour l’AGI. Mais pour Schmidt et ses coauteurs, cette ambition pourrait avoir des conséquences désastreuses.

Leur argument ? Une tentative de monopoliser une IA superintelligente risquerait de provoquer une réaction hostile de la part d’autres nations, notamment la Chine. Imaginez un scénario où Pékin, sentant sa suprématie technologique menacée, lancerait une cyberattaque massive pour saboter les efforts américains. Ce n’est pas de la science-fiction : les tensions géopolitiques autour de l’IA sont déjà palpables.

L’Ombre de la Destruction Mutuelle Assurée

Pour illustrer leur point de vue, les auteurs introduisent un concept troublant : le **Mutual Assured AI Malfunction** (MAIM), ou "Dysfonctionnement Mutuel Assuré de l’IA". À l’image de la dissuasion nucléaire, ils estiment que les grandes puissances devraient éviter de chercher à dominer totalement le champ de l’AGI. Pourquoi ? Parce que cela pourrait inciter un adversaire à frapper en premier, par peur de perdre tout avantage stratégique.

Un projet Manhattan pour l’AGI suppose que nos rivaux accepteront un déséquilibre permanent ou l’anéantissement, plutôt que de tenter de l’empêcher.

– Eric Schmidt, Alexandr Wang et Dan Hendrycks, "Superintelligence Strategy"

Cette analogie avec les armes nucléaires peut sembler extrême, mais elle reflète une réalité : l’IA est déjà vue comme un atout militaire majeur. Le Pentagone, par exemple, utilise des algorithmes pour accélérer ses processus de décision dans des contextes de combat. Si une nation parvenait à créer une AGI capable de surpasser l’intelligence humaine, les équilibres mondiaux pourraient basculer en un instant.

Une Alternative Défensive : Saboter l’Ennemi ?

Plutôt que de se lancer dans une course effrénée, Schmidt et ses collègues suggèrent une stratégie plus mesurée. Leur idée ? Mettre l’accent sur des **mesures défensives** pour empêcher les autres pays de développer une AGI menaçante. Cela inclut des cyberattaques ciblées pour neutraliser des projets jugés dangereux, ainsi que des restrictions sur l’accès aux puces avancées et aux modèles open source.

Cette proposition est audacieuse, voire controversée. Elle soulève des questions éthiques : est-il légitime de saboter les efforts d’un autre pays dans un domaine aussi crucial ? Pourtant, les auteurs y voient une manière de maintenir un équilibre global, évitant ainsi une escalade incontrôlable.

Doomers vs Ostriches : Un Troisième Chemin

Le débat sur l’IA oppose depuis longtemps deux camps. D’un côté, les "doomers" prédisent une catastrophe inévitable et plaident pour un ralentissement drastique des recherches. De l’autre, les "ostriches" prônent une accélération tous azimuts, espérant que tout se passera bien. Schmidt, Wang et Hendrycks rejettent ces extrêmes et proposent une voie médiane : avancer prudemment tout en surveillant les adversaires.

Ce positionnement est d’autant plus surprenant venant d’Eric Schmidt. Il y a encore quelques mois, il alertait sur la montée en puissance de l’IA chinoise, notamment avec le modèle *DeepSeek*. Aujourd’hui, il semble opter pour une posture plus nuancée, consciente des risques d’une surenchère.

Les Enjeux Géopolitiques de l’AGI

La compétition entre les États-Unis et la Chine est au cœur de cette réflexion. Les deux nations investissent massivement dans l’IA, chacune cherchant à s’imposer comme leader. Mais là où certains voient une opportunité de triomphe technologique, Schmidt et ses coauteurs perçoivent un danger : une lutte sans limites pourrait déstabiliser le monde entier.

Leur document arrive à un moment clé. Sous l’administration Trump, les États-Unis semblent déterminés à accélérer leurs efforts en IA. Mais comme le soulignent les auteurs, ces décisions ne se prennent pas dans un vide. Chaque pas en avant est scruté par Pékin, Moscou et d’autres capitales.

Une Stratégie Pragmatique pour l’Avenir

Alors, que faire ? Les auteurs dressent une feuille de route concrète pour les décideurs américains :

• Renforcer les capacités de cybersécurité pour contrer les projets d’AGI hostiles.
• Limiter l’exportation de technologies clés, comme les puces avancées.
• Développer des alliances internationales pour encadrer l’évolution de l’IA.

Ces mesures visent à maintenir un statu quo technologique, tout en évitant une confrontation directe. Une approche qui, selon eux, pourrait garantir la sécurité sans sacrifier l’innovation.

Un Débat qui Nous Concerne Tous

Ce manifeste ne se limite pas à une discussion entre experts. Il touche à des questions fondamentales : quel avenir voulons-nous pour l’IA ? Une arme de domination ou un outil partagé ? À mesure que la technologie progresse, ces choix deviendront de plus en plus pressants.

Pour l’instant, Schmidt et ses coauteurs ont lancé une pierre dans la mare. Leur vision défensive pourrait-elle changer la donne dans la course à l’AGI ? Une chose est sûre : le monde observe, et les prochaines années seront décisives.