Requêtes de confidentialité : l’IA ChatGPT bloquée par des noms
Les utilisateurs de ChatGPT, la populaire plateforme d'IA conversationnelle, ont fait une étrange découverte ce week-end. Le chatbot refuse catégoriquement de répondre aux questions si on lui parle d'un certain "David Mayer". La simple mention de ce nom suffit à le faire planter instantanément. Mais qui est donc ce David Mayer, et pourquoi ChatGPT semble-t-il le détester à ce point ?
Un nom qui fait crasher ChatGPT
La nouvelle s'est répandue comme une traînée de poudre : le nom "David Mayer" est comme un poison pour ChatGPT. De plus en plus de gens ont tenté de piéger le chatbot pour qu'il prononce ce nom maudit. En vain : à chaque tentative, ChatGPT plante ou s'interrompt en plein milieu du nom.
Je suis dans l'incapacité de produire une réponse.
– ChatGPT quand on lui parle de "David Mayer"
Mais ce n'est pas le seul nom à avoir cet effet dévastateur. Les internautes ont découvert que d'autres noms font aussi crasher ChatGPT :
- Brian Hood, un maire australien qui accuse ChatGPT de l'avoir diffamé
- Jonathan Turley, un avocat victime de "swatting" (canular téléphonique envoyant la police chez lui)
- Jonathan Zittrain, expert en droit qui a beaucoup parlé du "droit à l'oubli"
- David Faber, journaliste à CNBC
- Guido Scorza, membre de l'autorité italienne de protection des données
Des profils publics qui ont demandé à être "oubliés" ?
Que peuvent avoir en commun un maire, un avocat, un journaliste et un expert en données personnelles ? Selon certains utilisateurs de ChatGPT, il pourrait s'agir de personnalités publiques ou semi-publiques qui ont fait des requêtes de confidentialité numérique pour que certaines informations les concernant soient restreintes ou "oubliées" par les moteurs de recherche et modèles d'IA.
Mais qu'en est-il alors de "David Mayer", nom bien plus générique pour lequel on ne trouve pas de personnalité notable ? Il pourrait en fait s'agir du professeur David Mayer, spécialiste de l'histoire du cinéma mort en 2023 à 94 ans. Pendant des années, il s'est battu pour que son nom ne soit plus associé à un criminel recherché qui l'utilisait comme pseudonyme.
Des règles de filtrage qui font planter ChatGPT
En l'absence d'explication officielle d'OpenAI, on peut supposer que le modèle d'IA de ChatGPT intègre une liste de noms nécessitant un traitement spécial, pour des raisons légales, de sécurité ou de confidentialité.
Mais ces règles de filtrage, sans doute mises à jour de façon automatique, ont dû être corrompues par une erreur de code ou de syntaxe. Résultat : au lieu de répondre de façon adaptée, ChatGPT crash complètement quand il détecte un nom de cette fameuse liste.
Cette mésaventure nous rappelle utilement que malgré leur apparente magie, les agents conversationnels comme ChatGPT restent des programmes informatiques sujets aux bugs et activement supervisés par leurs créateurs. Avant d'en faire une source de vérité absolue, mieux vaut garder un œil critique et se tourner vers des sources plus directes en cas de doute.
