Geoffrey Hinton alerte sur les dangers de l’IA lors d’un discours de prix Nobel
C'est sous les ors du Palais des concerts de Stockholm que le Professeur Geoffrey Hinton, pionnier mondial de l'intelligence artificielle, a reçu le 10 décembre dernier le prestigieux prix Nobel de physique des mains du roi de Suède. Une consécration pour ce chercheur britannico-canadien, dont les travaux fondateurs sur les réseaux de neurones ont révolutionné le champ de l'IA et ouvert la voie aux avancées spectaculaires des dernières années. Mais au-delà des honneurs et de la reconnaissance académique, Geoffrey Hinton a profité de cette tribune pour lancer un avertissement solennel sur les dangers que font peser les progrès de l'IA sur l'humanité.
Une mise en garde sans ambiguïtés
Devant un parterre de scientifiques et de dirigeants, le nouveau prix Nobel n'a pas mâché ses mots. S'il a salué le potentiel immense de l'IA pour augmenter la productivité dans presque tous les secteurs, il a surtout insisté sur les risques à court terme qu'elle fait peser sur nos sociétés :
L'IA a déjà créé des chambres d'écho qui divisent en offrant aux gens des contenus qui les indignent. Elle est déjà utilisée par des gouvernements autoritaires pour une surveillance de masse et par des cybercriminels pour des attaques de phishing.
– Geoffrey Hinton, discours du banquet des prix Nobel 2024
Et ce n'est qu'un début selon lui. À court terme, l'IA pourrait servir à créer de terribles nouveaux virus et des armes létales qui décideraient elles-mêmes qui tuer ou mutiler. Face à ces menaces, Geoffrey Hinton appelle à une action urgente et vigoureuse des gouvernements et des organisations internationales.
L'ombre menaçante des entreprises technologiques
Mais la mise en garde la plus grave concerne la menace existentielle à long terme que représente la création d'êtres numériques plus intelligents que nous. Pour Geoffrey Hinton, nous n'avons aucune idée si nous pourrons garder le contrôle sur ces IA surpuissantes. Et il est particulièrement inquiet du rôle que jouent les entreprises technologiques dans cette course en avant :
Nous avons maintenant la preuve que si ces IA sont créées par des entreprises motivées par des profits à court terme, notre sécurité ne sera pas la priorité absolue.
– Geoffrey Hinton
Un tacle à peine voilé aux géants de la Silicon Valley, engagés dans une féroce compétition pour dominer le marché de l'IA mais régulièrement accusés de négliger les enjeux éthiques au profit de la rentabilité immédiate. Geoffrey Hinton, qui a lui-même travaillé chez Google avant de claquer la porte en 2023, sait de quoi il parle.
Un appel à la responsabilité collective
Au final, le message de Geoffrey Hinton est clair : il faut de toute urgence intensifier la recherche sur les moyens de garder le contrôle sur les IA de plus en plus puissantes que nous créons. C'est une responsabilité collective qui engage scientifiques, entreprises, gouvernements et citoyens. L'avenir de l'humanité en dépend.
Alors que les annonces tonitruantes se multiplient sur les prouesses de l'IA, le discours sans concession de ce pionnier et désormais prix Nobel fait l'effet d'une douche froide salutaire. Un électrochoc qui rappelle que si l'intelligence artificielle ouvre des perspectives fascinantes, elle comporte aussi de terribles dangers si son développement n'est pas strictement encadré. Espérons que cet appel solennel sera entendu avant qu'il ne soit trop tard.
