L’IA de ChatGPT perturbée par un mystérieux « David Mayer » : le mystère dévoilé

Un étrange phénomène a été découvert par les utilisateurs de la plateforme d'IA conversationnelle ChatGPT ce week-end : le chatbot populaire refuse catégoriquement de répondre aux questions si on lui parle d'un certain "David Mayer". La simple mention de ce nom le fait instantanément planter. Les théories du complot se sont multipliées, mais une raison bien plus banale se cacherait derrière cet étrange comportement.

La nouvelle s'est rapidement répandue et de plus en plus d'utilisateurs ont tenté de piéger ChatGPT en lui faisant prononcer ce nom maudit. Sans succès : chaque tentative se solde par un échec cuisant, l'IA coupant court à la conversation, parfois même en plein milieu du fameux nom.

Je suis dans l'incapacité de produire une réponse.

ChatGPT lorsqu'on mentionne "David Mayer"

Mais "David Mayer" n'est pas le seul nom à faire planter ChatGPT. D'autres comme Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber ou encore Guido Scorza produisent le même effet. Qui sont ces hommes ? Et pourquoi ChatGPT semble-t-il les détester au point de crasher à leur simple évocation ?

Des personnalités publiques qui souhaitent être "oubliées" ?

Si OpenAI, la société derrière ChatGPT, n'a pas immédiatement répondu aux demandes d'explication, des internautes ont tenté de trouver le fil conducteur entre ces différents noms. Un point commun semble se dégager : il s'agirait de personnalités publiques ou semi-publiques qui préfèreraient voir certaines informations les concernant "oubliées" des moteurs de recherche ou des modèles d'IA.

Parmi eux, on retrouve notamment :

• Brian Hood, un maire australien qui avait accusé ChatGPT de colporter de fausses informations à son sujet en le décrivant comme l'auteur d'un crime survenu il y a des décennies, alors qu'il n'en était que le témoin.
• Jonathan Turley, avocat et commentateur sur Fox News, victime d'un canular téléphonique ("swatting") ayant envoyé la police lourdement armée à son domicile fin 2023.
• Jonathan Zittrain, expert juridique s'étant exprimé à de nombreuses reprises sur le "droit à l'oubli".
• Guido Scorza, membre du conseil de l'Autorité italienne de protection des données.

Des profils certes différents mais qui ont tous pu, pour diverses raisons, demander formellement que des informations les concernant soient restreintes en ligne.

Et David Mayer dans tout ça ?

Mais alors, qui est ce mystérieux David Mayer dont personne ne semble avoir entendu parler ? Il pourrait en réalité s'agir du Professeur David Mayer, enseignant de théâtre et d'histoire spécialisé dans les liens entre l'époque victorienne et les débuts du cinéma, décédé à l'été 2023 à l'âge de 94 ans.

Pendant des années, cet universitaire britannico-américain s'est battu pour que son nom ne soit plus associé à celui d'un criminel recherché qui l'utilisait comme pseudonyme, allant jusqu'à l'empêcher de voyager. David Mayer aura lutté jusqu'à la fin de sa vie pour dissocier son identité de celle de ce dangereux homonyme.

Un outil de protection de la vie privée en cause

Interrogé par TechCrunch, OpenAI a finalement levé le voile sur ce mystère. La société explique que le modèle d'IA est doté de listes spéciales de noms nécessitant un traitement particulier, pour des raisons légales, de sécurité ou de confidentialité. Des règles similaires s'appliquent par exemple aux noms des candidats politiques.

Mais dans le cas présent, il semblerait qu'une de ces listes, qui sont mises à jour de façon automatique, ait été corrompue par du code défectueux provoquant le crash immédiat de ChatGPT lorsqu'elle est appelée. Un outil interne de protection de la vie privée serait donc à l'origine de ce bug pour le moins surprenant autour du nom "David Mayer" et des autres personnalités concernées.

Cette mésaventure rappelle utilement que les modèles d'IA, loin d'être magiques, sont en réalité des outils perfectionnés d'auto-complétion constamment supervisés et ajustés par les entreprises qui les conçoivent. Une mise en garde à garder en tête la prochaine fois que l'on sera tenté de prendre pour argent comptant les affirmations d'un chatbot, fut-il aussi impressionnant que ChatGPT.