L’intelligence artificielle, une menace pour l’humanité ?

Depuis des décennies, l'intelligence artificielle (IA) nourrit les craintes les plus folles. Et si les machines prenaient le contrôle, réduisant l'humanité en esclavage ? Les scénarios catastrophes ne manquent pas, mais une étude récente vient bousculer ces idées reçues. Selon des chercheurs de l'université de Bath et de l'université technique de Darmstadt, l'IA ne représenterait pas la menace existentielle tant redoutée. Enquête sur une conclusion pour le moins surprenante.

Des prédictions apocalyptiques qui ne datent pas d'hier

L'idée que les machines pourraient un jour dominer le monde n'est pas nouvelle. Dès les années 1960, alors même que l'IA en était à ses balbutiements, certains experts prédisaient que les ordinateurs dépasseraient l'intelligence humaine en l'espace d'une décennie. Plus de 60 ans plus tard, force est de constater que ces prophéties ne se sont pas réalisées.

La peur a été que plus les modèles deviennent grands, plus ils seront capables de résoudre des problèmes que nous ne pouvons pas prédire actuellement, ce qui pose la menace que ces modèles plus larges pourraient acquérir des capacités dangereuses, y compris le raisonnement et la planification.

– Dr. Harish Tayyar Madabushi, Université de Bath

Le spectre de la singularité

Aujourd'hui encore, la crainte d'une « singularité », c'est-à-dire le moment où l'IA dépasserait l'intelligence humaine, hante de nombreux esprits. Cette appréhension s'est accrue avec le développement rapide des modèles de langage ces dernières années. Mais selon l'étude, ces peurs seraient infondées.

L'IA, une technologie contrôlable ?

D'après les chercheurs, les modèles de langage sont par nature « contrôlables, prévisibles et sûrs ». Malgré leurs capacités impressionnantes, ces IA ne pourraient pas développer de nouvelles compétences de manière autonome. Elles ne feraient que suivre les instructions pour lesquelles elles ont été programmées.

Le récit dominant selon lequel ce type d'IA constitue une menace pour l'humanité empêche l'adoption et le développement généralisés de ces technologies, et détourne également l'attention des véritables problèmes qui nécessitent notre attention.

– Dr. Harish Tayyar Madabushi, Université de Bath

En analysant de près les performances des modèles de langage sur des tâches inédites, l'étude révèle que ces IA excellent dans le suivi d'instructions et la maîtrise des langues. En revanche, elles seraient incapables d'aller au-delà de ces consignes ou d'acquérir de nouvelles compétences sans instructions explicites. Autrement dit, une IA ne pourrait pas évoluer en quelque chose qu'elle n'est pas à la base.

Les vrais dangers de l'IA

Si l'IA ne menace pas directement notre existence, cela ne veut pas dire pour autant qu'elle est sans danger. Les chercheurs alertent sur les risques bien réels que ces technologies font peser :

• Manipulation de l'information
• Création de fausses nouvelles
• Fraude
• Diffusion de fausses informations, même sans intention
• Suppression de la vérité

Le véritable péril ne viendrait donc pas des machines elles-mêmes, mais de ceux qui les programment et les contrôlent. Que ce soit par malveillance ou par incompétence, le facteur humain reste la principale source d'inquiétude.

Faut-il craindre l'avenir ?

Cette étude apporte un éclairage nouveau sur la question de la menace existentielle de l'IA. Loin des scénarios catastrophes maintes fois dépeints, elle suggère que nous avons peut-être tort de trop nous focaliser sur des dangers hypothétiques, au détriment de risques pourtant bien tangibles.

Pour autant, gardons-nous de crier victoire trop vite. Si l'IA n'est peut-être pas l'ennemi que l'on craignait, elle n'en demeure pas moins une technologie puissante, qu'il convient de développer et d'utiliser avec précaution. À nous de trouver le juste équilibre entre progrès et vigilance, pour tirer le meilleur de ces innovations sans en subir les pires conséquences.