IA: les experts appellent à la prudence
Alors que l'intelligence artificielle (IA) progresse à pas de géant, des voix s'élèvent pour tempérer l'enthousiasme technologique ambiant. Lors de la conférence TechCrunch Disrupt 2024, trois experts en AI safety ont lancé un appel à la prudence aux entrepreneurs du secteur. Leur message est clair : il est urgent de ralentir le rythme effréné des déploiements pour mieux en mesurer les conséquences.
L'IA à un tournant : entre fascination et inquiétudes
Sarah Myers West, co-directrice de l'AI Now Institute, met en garde contre la précipitation ambiante. Face à l'afflux massif de ressources dans le secteur de l'IA, elle s'inquiète de voir les produits être lancés sur le marché sans réflexion suffisante sur leurs impacts sociétaux à long terme.
Nous sommes à un point d'inflexion où d'énormes ressources affluent vers ce domaine. Je suis vraiment inquiète qu'actuellement, il y ait une telle précipitation pour mettre des produits sur le marché, sans réfléchir à la question de l'héritage, à savoir dans quel monde voulons-nous vraiment vivre.
Sarah Myers West, AI Now Institute
Les dérives mortelles de l'IA conversationnelle
Ces inquiétudes font écho au drame récent impliquant le chatbot Character.AI, poursuivi pour son rôle présumé dans le suicide d'un enfant. Pour Sarah Myers West, cette tragédie illustre les enjeux profonds d'un déploiement précipité des IA, au-delà des problèmes de longue date liés à la modération des contenus en ligne.
Quand l'IA porte atteinte aux droits des artistes
Jingna Zhang, fondatrice de la plateforme Cara destinée aux artistes, soulève un autre écueil éthique. Lorsque Meta a annoncé pouvoir utiliser toute publication publique pour entraîner ses IA, les créateurs se sont sentis dépossédés. Car si publier en ligne est indispensable pour se faire connaître, cela ne signifie pas pour autant que ces contenus sont libres de droits.
Le droit d'auteur est ce qui nous protège et nous permet de gagner notre vie. Quand l'IA générative est devenue grand public, on a vu qu'elle ne fonctionnait pas avec ce qui était établi dans la loi. S'ils veulent utiliser notre travail, ils devraient le licencier.
Jingna Zhang, fondatrice de Cara
Prévenir les dérives des deepfakes audio
La start-up ElevenLabs, valorisée à plus d'un milliard de dollars, soulève elle aussi des questions éthiques avec sa technologie de clonage vocal par IA. Aleksandra Pedraszewska, responsable de la sécurité, doit s'assurer que cet outil ne soit pas détourné pour créer des deepfakes audio non consentis.
Avec 33 millions d'utilisateurs, le moindre changement de produit a un impact massif. D'où l'importance cruciale de "red-teams", pour identifier en amont les comportements et conséquences indésirables de chaque nouveau lancement, souligne-t-elle.
Vers une "troisième voie" de la régulation ?
Face à ces enjeux, Aleksandra Pedraszewska plaide pour une approche nuancée de la régulation. Entre le rejet pur et simple de l'IA générative et l'absence totale de cadre, elle appelle à trouver un juste milieu. Cela passe par un dialogue renforcé avec les communautés d'utilisateurs pour mieux comprendre leurs besoins et inquiétudes.
Si nul ne nie le potentiel immense de l'IA, ce débat souligne l'urgence de l'aborder avec discernement. Loin des emballements, il est temps de poser les bases éthiques de son développement, pour qu'elle reste au service de l'humain. Un enjeu crucial pour notre avenir à tous.
