Women in AI : Sophia Velastegui et l’IA qui avance trop vite
Arrêtons-nous un instant pour écouter une voix importante dans le domaine de l'Intelligence Artificielle. Sophia Velastegui, ancienne directrice de l'IA chez Microsoft et membre du comité consultatif national sur l'IA de la National Science Foundation, nous alerte sur les dangers d'une IA qui évolue à un rythme effréné. Son parcours inspirant de femme dans la tech et sa vision d'une IA plus éthique et inclusive méritent toute notre attention.
De la mécanique à l'IA, un parcours atypique
Sophia Velastegui ne se destinait pas à une carrière dans l'IA. Diplômée en génie mécanique de Georgia Tech, c'est un job chez Apple en 2009 qui a été le déclic. Fascinée par les applications, en particulier celles utilisant l'IA, elle y voit un potentiel immense pour améliorer nos vies à petite et grande échelle. Déterminée à faire partie de cette révolution, elle saisit alors toutes les opportunités pour développer son expertise dans ce domaine.
De Apple à Microsoft, en passant par Google
Chez Apple, Sophia travaille sur des projets innovants comme le premier MacBook Air, l'iPad, CarPlay, iCloud ou encore Apple Maps. Elle rejoint ensuite Google en 2015 en tant que responsable de l'architecture des puces et directrice de la gamme de produits Nest. Mais c'est chez Microsoft, où elle devient directrice générale des produits d'IA et de recherche, que sa carrière dans l'IA prend un tournant décisif.
Mon passage chez Microsoft se démarque vraiment. J'ai rejoint l'entreprise alors qu'elle était en pleine mutation sous la direction de Satya Nadella. Mes mentors me déconseillaient ce choix en 2017 car ils voyaient Microsoft à la traîne. Mais en peu de temps, l'entreprise avait fait de réels progrès en IA, et je voulais en faire partie.
Sophia Velastegui
Le défi d'être une femme dans la tech
Interrogée sur sa façon de naviguer dans l'industrie très masculine de la tech, Sophia souligne l'importance du soutien entre femmes, mais aussi celui des hommes envers leurs collègues féminines. Son conseil aux femmes dans la tech :
Si vous avez déjà fait partie d'une transformation ou d'un changement, vous avez le droit d'être à la table, alors n'ayez pas peur d'y prendre votre place. Levez la main pour endosser plus de responsabilités liées à l'IA, que ce soit dans votre job actuel ou via un projet annexe.
Sophia Velastegui
Elle pointe aussi du doigt le risque de groupthink dû au manque de diversité dans les équipes, souvent constituées principalement d'hommes. D'où son appel à plus de femmes dans l'IA :
J'encourage vivement plus de femmes à s'impliquer dans l'IA pour que nos voix, nos expériences et nos points de vue soient inclus à ce point d'inception critique où les technologies d'IA fondamentales sont définies pour le présent et le futur.
Sophia Velastegui
Le rythme effréné de l'IA, un "énorme problème"
Si Sophia Velastegui est une fervente partisane du potentiel de l'IA, elle n'en reste pas moins lucide sur les dangers d'un développement trop rapide. Au sein du comité de la NSF, elle œuvre ainsi à résoudre des problèmes fondamentaux comme le manque de "représentation numérique". Les biais et préjugés qui imprègnent l'IA actuelle seraient en partie dus à l'homogénéité des entreprises qui la développent.
L'IA est entraînée sur les données des développeurs, mais les développeurs sont principalement des hommes avec des perspectives spécifiques, et représentent un très petit sous-ensemble des 8 milliards d'habitants de la planète. Si nous n'incluons pas les femmes en tant que développeuses et si les femmes ne fournissent pas de feedback en tant qu'utilisatrices, alors l'IA ne les représentera pas du tout.
Sophia Velastegui
Elle voit le rythme effréné de l'industrie comme un énorme problème en l'absence d'un cadre éthique commun. Un tel cadre, s'il était largement adopté, pourrait permettre aux développeurs de construire des systèmes rapidement sans étouffer l'innovation, pense-t-elle. Mais elle n'y compte pas trop...
Nous n'avons jamais vu une technologie aussi transformatrice évoluer à un rythme aussi implacable. Les gens, la régulation, les systèmes existants... rien n'a jamais eu à suivre à la vitesse actuelle de l'IA. Le défi est de rester informé, à jour et tourné vers l'avenir, tout en étant conscient des dangers si nous allons trop vite.
Sophia Velastegui
Ses recommandations pour une IA responsable
Comment alors créer des produits d'IA de manière responsable ? Sophia Velastegui préconise une approche "centrée sur l'humain" qui tire des leçons des erreurs passées et donne la priorité au bien-être des utilisateurs. Voici ses principales recommandations :
- Mettre en place un conseil IA diversifié et transversal qui examine les problèmes et fournit des recommandations adaptées à l'environnement actuel.
- Créer des canaux pour un feedback et une supervision réguliers qui s'adapteront à l'évolution des systèmes d'IA.
- Inclure davantage de femmes comme développeuses d'IA et solliciter activement leur retour d'expérience en tant qu'utilisatrices.
- Définir un cadre éthique commun permettant aux développeurs de construire rapidement des systèmes sans freiner l'innovation.
Le parcours et la vision de Sophia Velastegui sont une source d'inspiration pour toutes celles et ceux qui souhaitent une IA plus inclusive, éthique et bénéfique pour l'humanité. Son appel à ralentir la cadence et à instaurer des garde-fous résonne comme un avertissement salutaire à l'heure où la course à l'IA s'emballe. Espérons que son message sera entendu pour que cette technologie transformatrice tienne ses promesses sans nous mener dans une impasse.