L’IA et les Fan Letters : La Controverse Google Gemini

Quand j'ai vu pour la première fois la nouvelle publicité de Google, je me suis demandé : « Est-ce que c'est moi ou c'est plutôt mauvais ? ». Après l'avoir revue 4 ou 5 fois, j'ai cessé de me poser la question. Le spot commence innocemment, avec un père expliquant à quel point sa fille est fan de la championne olympique Sydney McLaughlin-Levrone. La jeune fille souhaite écrire une lettre à son idole, et c'est là que les choses dérapent.

L'IA Gemini au secours des lettres de fan

Le père demande alors à l'IA Gemini de Google : « Aide ma fille à écrire une lettre disant à Sydney à quel point elle est inspirante. N'oublie pas de mentionner que ma fille compte bien battre son record du monde un jour. Elle dit 'Désolée, pas désolée' ». Si on cherche bien, on peut voir comment cela s'inscrit dans le pitch global sur l'IA générative, qui pourrait servir de coach ou d'assistant d'écriture, surtout pour quelqu'un qui trouve cet exercice difficile ou intimidant. Et quoi de plus intimidant que d'écrire à son athlète préféré ?

Mais franchement, utiliser une IA pour dire à quelqu'un à quel point il nous inspire, difficile de faire moins authentique et touchant. Certes, Gemini ne génère qu'un premier jet que le père et sa fille personaliseront ensuite (du moins on l'espère). Mais si ce genre de choses se généralisait, Sydney ne recevrait au final qu'une montagne de lettres quasiment identiques écrites par un robot. La romancière et animatrice de podcast Linda Holmes a clairement exprimé son désaccord :

Bien sûr il y a des circonstances particulières et des gens qui ont besoin d'aide, mais en général, présenter ça comme « regardez comme c'est cool, elle n'a même pas eu à écrire elle-même ! », ça CRAINT. Qui veut recevoir une lettre de fan écrite par une IA ?

– Linda Holmes

Quand l'IA nous prive d'occasions d'apprendre

Comme le souligne Linda Holmes, «Une lettre de fan est une excellente occasion pour un enfant d'apprendre à écrire ! Si on les encourage à se précipiter sur l'IA pour générer des mots parce que leur écriture n'est pas encore au top, comment sont-ils censés progresser ?». Je suis d'accord. Malgré mes maigres chances de devenir un jour champion olympique, il m'arrive (très rarement) de recevoir des messages de lecteurs. Et je préfère mille fois un email humain, même bref, du style « T'ES GÉNIAL !! » plutôt qu'une longue lettre type rédigée par une IA.

Les défis de l'IA « grand public »

Même si on est loin de la pub Apple qui résumait toute l'histoire de l'humanité dans un iPad, cela illustre certaines difficultés à présenter l'IA comme un outil utile et pertinent pour le commun des mortels. S'il y a certainement de nombreux cas d'usage intéressants, suggérer aux enfants de déléguer leur correspondance à un algorithme n'en fait clairement pas partie. Le chemin est encore long pour une IA éthique et au service de tous.