ChatGPT Face à une Plainte pour Hallucinations Diffamatoires

Imaginez-vous taper votre nom dans une intelligence artificielle et découvrir qu’elle vous accuse d’un crime abominable, comme le meurtre de vos propres enfants. Ce cauchemar est devenu réalité pour Arve Hjalmar Holmen, un Norvégien ordinaire pris dans les filets d’une IA défaillante. ChatGPT, le célèbre chatbot d’OpenAI, a récemment fait les gros titres, mais pas pour ses prouesses technologiques : une plainte déposée en Europe remet en question sa capacité à respecter les lois sur la protection des données. Alors, jusqu’où les dérives de l’IA peuvent-elles aller avant que les régulateurs ne serrent la vis ?

Quand l’IA Transforme la Vérité en Fiction

ChatGPT n’est pas qu’un simple outil de conversation : c’est une machine qui apprend, prédit et génère du texte à partir de quantités astronomiques de données. Mais que se passe-t-il quand cette puissance se retourne contre les individus ? Dans le cas d’Arve Hjalmar Holmen, le chatbot a fabriqué une histoire glaçante : il aurait été condamné à 21 ans de prison pour avoir tué deux de ses fils et tenté d’assassiner le troisième. Une pure invention, mêlée de détails troublants de vérité, comme le nom de sa ville ou le sexe de ses enfants.

Ce phénomène, surnommé les **hallucinations IA**, n’est pas nouveau. Les modèles de langage comme celui d’OpenAI prédisent les mots suivants en se basant sur des patterns, sans toujours vérifier la véracité des informations. Le résultat ? Des récits parfois crédibles, mais totalement faux, qui peuvent ruiner des vies.

Un Problème Plus Large que Prévu

Le cas de Holmen n’est pas isolé. Un maire australien a été faussement impliqué dans un scandale de corruption, tandis qu’un journaliste allemand s’est vu attribuer des accusations d’abus sur mineurs par ChatGPT. Ces exemples révèlent une faille systémique : l’IA générative peut produire des informations **diffamatoires** sans que les victimes aient un moyen simple de corriger le tir.

« Le GDPR est clair : les données personnelles doivent être exactes. Un simple disclaimer ne suffit pas à excuser la diffusion de mensonges. »

– Joakim Söderberg, avocat en protection des données chez Noyb

Face à ces dérives, l’association Noyb, spécialisée dans la défense des droits numériques, a décidé d’agir. Soutenant Holmen, elle a porté plainte auprès de l’autorité norvégienne de protection des données, arguant que ces **hallucinations** violent le Règlement Général sur la Protection des Données (GDPR) de l’Union européenne.

Le GDPR : Une Arme Contre les IA Défaillantes ?

En Europe, le GDPR est une loi incontournable. Elle impose aux entreprises de garantir l’exactitude des données personnelles qu’elles traitent et offre aux citoyens un **droit de rectification**. Mais OpenAI semble contourner ces obligations : lorsqu’un utilisateur signale une erreur, la firme propose souvent de bloquer la réponse incriminée, sans corriger les données sous-jacentes. Une solution jugée insuffisante par les défenseurs des droits.

Les sanctions possibles sont lourdes : jusqu’à 4 % du chiffre d’affaires annuel mondial. En 2023, l’Italie avait déjà forcé OpenAI à modifier ses pratiques après une suspension temporaire de ChatGPT, assortie d’une amende de 15 millions d’euros. Cette nouvelle plainte pourrait-elle marquer un tournant ?

Pourquoi l’IA Hallucine-t-elle Autant ?

Pour comprendre ce fiasco, plongeons dans le fonctionnement des grands modèles de langage. Ces IA, entraînées sur des milliards de textes, excellent à imiter le langage humain. Mais elles ne “comprennent” pas vraiment ce qu’elles disent. Quand elles manquent d’informations précises – comme sur une personne peu connue – elles comblent les vides avec des probabilités, parfois tirées de récits dramatiques ou sensationnels présents dans leurs données d’entraînement.

Dans le cas de Holmen, Noyb n’a trouvé aucune explication claire : pas de faits divers similaires dans les archives, pas de confusion avec un homonyme. L’IA aurait-elle puisé dans des histoires de **filicide** pour “broder” une réponse ? C’est une hypothèse plausible, mais inquiétante.

OpenAI Réagit… ou Pas ?

Face à la polémique, OpenAI a ajusté son modèle. Aujourd’hui, ChatGPT recherche des informations en ligne avant de répondre à une question comme “Qui est Arve Hjalmar Holmen ?”. Résultat : les fausses accusations ont disparu, remplacées par des réponses plus neutres, parfois imprécises (Holmen est devenu un “musicien norvégien” dans certains cas). Mais pour Noyb, le mal est fait : les données erronées pourraient encore hanter les entrailles de l’IA.

« Ajouter un disclaimer ne fait pas disparaître la loi. Les entreprises d’IA doivent arrêter de prétendre que le GDPR ne s’applique pas à elles. »

– Kleanthi Sardeli, avocate chez Noyb

Cette évolution montre une chose : OpenAI peut corriger ses erreurs quand la pression monte. Mais sans régulation stricte, ces ajustements risquent de rester réactifs, et non préventifs.

Les Régulateurs Européens à la Croisée des Chemins

Les autorités de protection des données en Europe semblent hésiter. Si l’Italie a frappé fort en 2023, d’autres pays, comme l’Irlande ou la Pologne, avancent à pas de tortue. Une plainte similaire déposée en Autriche en 2024 a été renvoyée à l’Irlande, où elle stagne depuis septembre. Pourquoi tant de prudence ? Peut-être parce que les régulateurs cherchent encore comment appliquer un texte comme le GDPR à des technologies aussi mouvantes.

Noyb, elle, mise sur la Norvège pour faire bouger les lignes, en ciblant directement l’entité américaine d’OpenAI. Une stratégie audacieuse qui pourrait contourner les lenteurs irlandaises et forcer une réponse globale.

Quels Risques pour les Start-ups comme OpenAI ?

Pour une start-up comme OpenAI, valorisée à des milliards, ces plaintes ne sont pas qu’un désagrément. Elles menacent son modèle économique. Si les régulateurs imposent des contraintes strictes – comme une vérification systématique des données – le coût de développement pourrait exploser. À l’inverse, ignorer le problème expose l’entreprise à des amendes colossales et à une perte de confiance des utilisateurs.

Et OpenAI n’est pas seule dans la tourmente. D’autres acteurs de l’IA générative, comme Anthropic ou xAI, pourraient bientôt faire face aux mêmes défis. L’enjeu est clair : innover, oui, mais pas au détriment des droits fondamentaux.

Vers une IA Plus Responsable ?

Alors, comment éviter ces dérapages ? Quelques pistes émergent :

• Filtrer les données d’entraînement pour limiter les biais dramatiques.
• Intégrer des mécanismes de vérification avant publication des réponses.
• Offrir un vrai droit de rectification, pas un simple blocage.

Mais ces solutions demandent du temps et des ressources. En attendant, des individus comme Holmen restent vulnérables, pris entre les promesses de l’IA et ses dérives incontrôlées.

Un Avenir Incertain pour ChatGPT

L’histoire d’Arve Hjalmar Holmen n’est qu’un symptôme d’un problème plus vaste. À mesure que l’IA pénètre nos vies, ses erreurs ne peuvent plus être balayées sous le tapis. Les plaintes comme celle de Noyb pourraient forcer OpenAI – et ses concurrents – à repenser leurs priorités. Mais d’ici là, une question demeure : combien de réputations seront sacrifiées sur l’autel de l’innovation ?

Le futur de ChatGPT dépendra autant de ses avancées techniques que de sa capacité à respecter les lois. En Europe, le message est clair : l’IA ne peut pas jouer avec la vérité impunément. Reste à voir si les régulateurs auront les moyens – et la volonté – de transformer ce scandale en leçon durable.