Deception d’IA: Secretaires d’Etat Alertent sur Grok de X
L'intelligence artificielle fascine autant qu'elle inquiète. Les récents progrès fulgurants des chatbots et autres IA génératives soulèvent de nombreuses interrogations sur leurs dérives potentielles. Un cas d'école vient d'éclater au grand jour aux États-Unis, mettant en lumière les dangers d'une IA manipulatrice utilisée à des fins politiques.
Le chatbot Grok de X épinglé pour désinformation électorale
Grok, l'assistant conversationnel basé sur l'IA récemment lancé par la plateforme X (ex-Twitter), s'est retrouvé au coeur d'une polémique après avoir relayé de fausses informations sur l'éligibilité de la vice-présidente Kamala Harris à la présidentielle de 2024. Interrogé par des utilisateurs sur ce sujet, le chatbot a en effet affirmé à tort que les délais pour l'inscription de Harris sur les listes électorales étaient dépassés dans neuf états clés tels que la Pennsylvanie ou le Michigan.
Une fake news colportée massivement sur X par Grok, avant que l'erreur ne soit finalement corrigée 10 jours plus tard, non sans avoir touché des millions de personnes. Un incident loin d'être anodin au regard des enjeux démocratiques et qui a suscité une vive réaction politique.
Cinq secrétaires d'État montent au créneau contre X et Musk
Face à cette dérive, cinq secrétaires d'État, les plus hauts responsables électoraux dans plusieurs états américains, ont adressé une lettre ouverte à Elon Musk, le patron de X. Steve Simon (Minnesota), Al Schmidt (Pennsylvanie), Steve Hobbs (Washington), Jocelyn Benson (Michigan) et Maggie Toulouse Oliver (Nouveau-Mexique) y expriment leurs vives inquiétudes et demandent au milliardaire d'agir immédiatement :
« Nous vous exhortons à mettre en œuvre sans délai des changements dans l'assistant de recherche IA de X, Grok, pour garantir aux électeurs des informations exactes en cette année électorale cruciale. »
- Extrait de la lettre des secrétaires d'État à Elon Musk
Ils pointent notamment du doigt le manque de safeguards, alors même que Grok n'est accessible qu'aux abonnés payants de X, et s'inquiètent de l'utilisation malveillante qui peut en être faite par des acteurs mal intentionnés.
Elon Musk lui-même accusé d'attiser les tensions
La gestion hasardeuse des contenus sensibles par X et son propriétaire Elon Musk est également mise en cause. Les signataires rappellent les coupes claires opérées dans les effectifs de modérateurs depuis le rachat du réseau social par le milliardaire libertarien. Une équipe de modération réduite à peau de chagrin qui apparaît bien incapable d'endiguer la désinformation.
Plus grave encore, Elon Musk est lui-même accusé de jeter de l'huile sur le feu en relayant une vidéo deepfake à caractère politique. On y entend une voix clonée par IA de Kamala Harris affirmer avoir été "un recrutement pour la diversité" ne sachant "absolument rien sur la gestion d'un pays". Un trucage high-tech partagé par le fantasque patron sans précaution, alors même qu'il va à l'encontre des règles anti-deepfake de X. Un deux poids, deux mesures choquant de la part de celui qui prétend lutter contre les fakes news.
Des chatbots IA puissants mais dangereux sans garde-fous
Le cas Grok illustre parfaitement les dangers des chatbots IA lorsqu'ils sont déployés de façon massive et anarchique. Leur capacité à générer un discours crédible et à interagir avec les humains en fait certes des outils incroyablement puissants. Mais sans garde-fous ni modération humaine adéquate, ils peuvent très vite déraper et relayer massivement des contrevérités.
Les concepteurs de ces IA et les plateformes qui les déploient ont une responsabilité majeure : celle de s'assurer qu'elles ne soient pas détournées pour manipuler l'opinion et fausser le débat démocratique. Il est urgent de réguler ces technologies en imposant des obligations de transparence, d'audit et de supervision humaine. Faute de quoi nous courons le risque de voir émerger des super-propagateurs de fake news automatisés susceptibles d'influencer dangereusement nos sociétés.
Le camp démocrate, dont est issue Kamala Harris, a d'ailleurs d'ores et déjà saisi la justice contre X pour sa gestion jugée complaisante de la désinformation électorale. Preuve que le dossier est pris très au sérieux au plus haut niveau, à l'approche d'une présidentielle américaine qui s'annonce plus que jamais impactée par les nouvelles technologies. Les prochains mois nous diront si des solutions concrètes sont mises en place pour éviter que les chatbots ne deviennent les grands manipulateurs en chef de l'élection.
