Le board d’OpenAI s’approprie la sécurité au détriment de l’éthique
Pionnier de l'intelligence artificielle, OpenAI se retrouve aujourd'hui au cœur d'une controverse éthique. La semaine dernière, l'entreprise démantelait subitement son équipe "Superalignment" dédiée à la sécurité des systèmes d'IA, suite au départ fracassant de ses principaux responsables. Un coup de théâtre qui en dit long sur les priorités de la firme, accusée de favoriser la course à l'innovation au détriment de la prudence.
Un comité de sécurité aux allures de chambre d'écho
Pour éteindre l'incendie, OpenAI a rapidement annoncé la création d'un comité de sûreté et de sécurité. Problème : ce dernier est majoritairement composé de membres du conseil d'administration de l'entreprise, jetant le doute sur son indépendance et son objectivité. Difficile dans ces conditions de mener une réflexion éthique approfondie et d'aller à contre-courant de la stratégie dictée par le board.
La pression d'un nouveau modèle "révolutionnaire"
Il faut dire qu'OpenAI est sous pression. L'entreprise prépare en effet le lancement de son "prochain modèle frontière", présenté comme une avancée majeure vers l'intelligence artificielle générale. C'est dans ce contexte que le fameux comité a été mis en place, avec pour première mission d'évaluer les risques liés à ce nouveau système. Autant dire que le calendrier ne laisse que peu de place à un examen approfondi et indépendant des enjeux éthiques.
Un départ qui en dit long
Le malaise est d'autant plus palpable qu'OpenAI peine à retenir ses experts en sécurité et éthique de l'IA. Le départ de Jan Leike, ancien responsable de l'équipe "Superalignment", en est l'illustration la plus frappante. Invoquant des désaccords sur les priorités de l'entreprise, il a pointé du doigt la culture actuelle d'OpenAI, où la sécurité serait reléguée au second plan derrière la course aux "produits brillants".
Construire des machines plus intelligentes que l'humain est une entreprise intrinsèquement dangereuse. OpenAI assume une énorme responsabilité au nom de l'humanité toute entière.
– Jan Leike, ancien responsable sécurité IA d'OpenAI
Un constat sévère qui en dit long sur la dérive éthique d'OpenAI. Et les signaux ne sont guère rassurants quant à la capacité de l'entreprise à inverser la tendance. L'avenir nous dira si le nouveau comité parviendra à redresser la barre ou s'il ne sera qu'une façade pour rassurer le public et les investisseurs. Une chose est sûre : la gouvernance éthique de l'IA est un enjeu crucial qui ne peut être relégué au second plan. Il en va de notre responsabilité collective face aux progrès fulgurants de cette technologie au potentiel immense mais aux risques non négligeables.
OpenAI jouera-t-elle son rôle de pionnier responsable ou cédera-t-elle aux sirènes de la course effrénée à l'innovation ? L'avenir de l'IA éthique et sûre est en jeu. Espérons que la raison l'emportera sur la précipitation et que l'entreprise saura renouer avec les valeurs qui ont fait sa renommée. Car au-delà de la prouesse technologique, c'est bien notre rapport à l'intelligence artificielle et à ses impacts sociétaux qui se joue aujourd'hui.
