L’étrange obsession des IA pour les nombres favoris

Alors que les avancées des modèles d'intelligence artificielle ne cessent de nous étonner par leurs prouesses, une découverte intrigante vient souligner une fois de plus leurs limites : les IA semblent avoir des nombres favoris, tout comme les humains. Cette étrange obsession soulève des questions fascinantes sur leur fonctionnement et les biais inattendus qu'elles peuvent développer.

Des nombres pas si aléatoires

Des ingénieurs curieux de Gramener ont mené une expérience informelle mais révélatrice. Ils ont demandé à plusieurs grands chatbots, dont GPT-3.5 Turbo d'OpenAI, Claude 3 Haiku d'Anthropic et Gemini, de choisir un nombre aléatoire entre 0 et 100. Les résultats sont surprenants :

• GPT-3.5 Turbo a une nette préférence pour le chiffre 47, et auparavant le 42, rendu célèbre par le Guide du voyageur galactique.
• Claude 3 Haiku a opté pour 42 également.
• Gemini, quant à lui, a choisi le 72.

Mais au-delà de ces nombres "fétiches", les IA ont aussi démontré des biais typiquement humains dans leur sélection. Elles évitent les nombres ronds, les doublons, les extrêmes, et affichent une préférence pour ceux se terminant par 7.

Une fenêtre sur leur raisonnement

Pourquoi des systèmes purement mathématiques auraient-ils ce genre de biais ? La réponse se trouve dans leur fonctionnement même. Les modèles de langage ne comprennent pas réellement les concepts de nombres ou d'aléatoire. Ils ne font que reproduire les schémas les plus fréquents dans leurs données d'entraînement.

Les IA répondent comme le ferait un perroquet stochastique, sans aucune réflexion ou compréhension réelle.

- Devin Coldewey, Techcrunch

Ainsi, les nombres favoris des IA reflètent simplement ceux que les humains tendent à donner en exemple dans ce genre de situation. Une leçon précieuse sur les limites des modèles de langage et la tentation de l'anthropomorphisme.

L'imitation humaine poussée à l'extrême

Cette anecdote illustre parfaitement le mode opératoire des IA actuelles. Qu'il s'agisse de générer une recette, un conseil financier ou un nombre aléatoire, le processus est identique : un remix de contenus humains pour coller au mieux à nos attentes. Une pseudanthropie bluffante mais superficielle.

Alors que la course à l'IA générative s'accélère, gardons à l'esprit les limites de ces systèmes fascinants. Derrière leurs prouesses se cache souvent une imitation habile de comportements humains, y compris dans leurs imperfections et leurs biais. Une raison de plus de les utiliser avec discernement.