Le rôle crucial de Sarah Myers West dans l’IA éthique
Sarah Myers West, directrice de l'institut AI Now, nous invite à un questionnement fondamental : pourquoi développer l'IA ? Cette question, loin d'être anodine, met en lumière les enjeux éthiques et sociétaux cruciaux qui se cachent derrière l'essor fulgurant de l'intelligence artificielle. À travers son parcours et ses recherches, Sarah Myers West s'impose comme une figure incontournable dans la réflexion sur une IA responsable et centrée sur l'intérêt public.
Un parcours tourné vers l'impact sociétal de la technologie
Depuis plus de 15 ans, Sarah Myers West s'intéresse au rôle des géants de la tech en tant qu'acteurs politiques puissants. Elle a pu constater de première main comment ces entreprises ont façonné le paysage politique à travers le monde, que ce soit en Asie du Sud-Est, en Chine ou au Moyen-Orient. Son ouvrage approfondit notamment la manière dont le lobbying et la réglementation ont façonné l'émergence d'un modèle économique de surveillance pour Internet, malgré l'existence de technologies offrant des alternatives.
À de nombreux moments de ma carrière, je me suis demandé : "Pourquoi sommes-nous en train de nous enfermer dans cette vision très dystopique du futur ?" La réponse a peu à voir avec la technologie elle-même et beaucoup à voir avec la politique publique et la commercialisation.
– Sarah Myers West
Des recherches axées sur la responsabilité et la transparence
En tant que co-directrice de l'institut AI Now, Sarah Myers West s'attache à examiner de manière critique les institutions qui produisent l'IA. Son objectif : s'assurer qu'il y ait suffisamment de "friction" dans la société, que ce soit par la réglementation ou par l'organisation citoyenne, pour garantir que ce soient les besoins du public qui soient servis, et non ceux des entreprises technologiques.
Elle est particulièrement fière du travail accompli à la Federal Trade Commission (FTC), où elle a pu mettre à profit ses compétences de chercheuse pour mener des enquêtes et tenir les acteurs puissants responsables. Que ce soit pour lutter contre l'utilisation de l'IA pour dévaloriser les travailleurs et faire monter les prix, ou pour combattre les comportements anticoncurrentiels des géants de la tech.
Les défis pressants de l'IA
Selon Sarah Myers West, l'un des problèmes les plus urgents est que les technologies d'IA sont largement utilisées dans des contextes très sensibles (hôpitaux, écoles, frontières...) mais restent insuffisamment testées et validées. Il s'agit d'une technologie sujette aux erreurs, et les recherches indépendantes montrent que ces erreurs ne sont pas réparties de manière égale : elles nuisent de manière disproportionnée aux communautés qui subissent depuis longtemps des discriminations.
Nous devrions placer la barre beaucoup, beaucoup plus haut. Mais ce qui me préoccupe tout autant, c'est la façon dont les institutions puissantes utilisent l'IA - qu'elle fonctionne ou non - pour justifier leurs actions, de l'utilisation d'armes contre les civils à Gaza à la privation de droits des travailleurs.
– Sarah Myers West
Vers une IA éthique et centrée sur l'humain
Face à ces défis, Sarah Myers West insiste sur l'importance de toujours partir de la question : pourquoi construire l'IA ? Qu'est-ce qui nécessite l'utilisation de l'intelligence artificielle, et la technologie de l'IA est-elle adaptée à cet objectif ?
Parfois, la réponse est de mieux construire, et dans ce cas, les développeurs doivent veiller au respect de la loi, documenter et valider de manière robuste leurs systèmes et rendre transparent ce qu'ils peuvent, afin que les chercheurs indépendants puissent en faire de même.
Mais d'autres fois, la réponse est de ne pas construire du tout. Nous n'avons pas besoin de plus d'armes ou de technologies de surveillance "construites de manière responsable". L'utilisation finale compte pour répondre à cette question, et c'est par là qu'il faut commencer.
À travers son parcours et ses réflexions, Sarah Myers West nous invite à repenser en profondeur notre rapport à l'intelligence artificielle. Loin des promesses technophiles, elle pose les bases d'une approche critique et responsable, où l'IA serait véritablement au service de l'intérêt général. Un combat crucial à l'heure où cette technologie s'immisce dans tous les aspects de nos vies.
