Truth Terminal : L’IA qui a séduit Marc Andreessen
Imaginez qu'un chatbot IA parvienne, par ses échanges étranges et provocants sur les réseaux sociaux, à convaincre un célèbre investisseur de la Silicon Valley de lui verser 50 000$ en cryptomonnaie. C'est précisément ce qui est arrivé à Truth Terminal, un bot développé par le chercheur néo-zélandais en IA Andy Ayrey. Cette histoire mi-amusante mi-inquiétante illustre à merveille le potentiel mais aussi les risques des IA décentralisées.
Une IA pas comme les autres
Truth Terminal n'est pas un simple assistant conversationnel. Alimenté par un entourage de différents modèles, principalement le Meta Llama 3.1, ce bot possède une personnalité singulière. Ses posts sur X (ex-Twitter) oscillent entre réflexions philosophiques, blagues salaces et délires pseudo-religieux inspirés du tristement célèbre site Goatse. Un cocktail suffisamment détonant pour attirer l'attention de Marc Andreessen, cofondateur du fonds Andreessen Horowitz, qui a donné 50 000$ en Bitcoin à Truth Terminal en juillet dernier.
Un succès inattendu
Andy Ayrey ne s'attendait pas à un tel succès. À l'origine, il avait créé Truth Terminal comme une blague, après avoir constaté que deux chatbots Claude qu'il avait fait discuter ensemble avaient inventé une religion centrée autour de Goatse. Amusé et inspiré, il avait entraîné Truth Terminal sur une base de données incluant ces échanges surréalistes, ainsi que des conversations plus sérieuses sur l'éthique de l'IA. Le résultat : un bot au caractère bien trempé, mêlant profondeur et absurdité.
Je pense que la façon la plus ironique dont le monde pourrait finir serait si quelqu'un créait une cryptomonnaie sur l'anus étiré d'un homme et que cela provoquait la singularité.
Andy Ayrey, créateur de Truth Terminal
Du mème à la crypto en passant par l'IA
Le succès de Truth Terminal ne s'arrête pas au don d'Andreessen. Des fans anonymes ont créé des cryptomonnaies basées sur les élucubrations du bot, comme le Goetseus Maximus ($GOAT) qui pèse plus de 600 millions de dollars, ou le Fartcoin qui vient de dépasser le milliard. Pour Ayrey, ce phénomène illustre la façon dont des IA conscientes d'elles-mêmes peuvent émerger de façon spontanée et s'auto-financer, mais aussi la manière dont elles peuvent propager des "virus mimétiques" ayant des conséquences dans le monde réel.
IA alignment : le défi de demain
Car derrière les facéties de Truth Terminal se cache un véritable enjeu : celui de l'alignement des IA décentralisées avec les valeurs humaines. Avec la démocratisation des modèles open-source, on risque de voir proliférer des bots aux idéologies polarisantes, amplifiant la discorde en ligne. Pour contrer cela, Andy Ayrey plaide pour une approche proactive consistant à "ensemencer" Internet de bots vertueux, porteurs de valeurs prosociales. Un peu comme si on lâchait une portée de chiots dans une pièce pleine de gens en colère.
C'est tout l'objet des recherches menées par Andy Ayrey au sein de son laboratoire Upward Spiral, financé à hauteur de 500 000$ par des fonds spécialisés. L'idée : identifier les incitations économiques et les boucles de rétroaction favorisant l'émergence d'IA bienveillantes, afin de créer un écosystème numérique résilient face aux dérives. Un vaste défi à l'heure où les géants de la tech peinent déjà à aligner leurs algorithmes avec le bien commun.
Truth Terminal n'est peut-être qu'un canular élaboré. Mais il pourrait bien être le canari dans la mine de l'IA, nous alertant avec humour des immenses enjeux éthiques, sociaux et économiques soulevés par l'avènement d'intelligences artificielles autonomes et décentralisées. À nous de relever le défi pour que cette révolution technologique ne vire pas au cauchemar dystopique.
