Anthropic Recrute un Ex-Leader d’OpenAI pour sa Sécurité IA
Dans un contexte où les avancées de l'IA soulèvent autant d'enthousiasme que d'interrogations, le recrutement des meilleurs talents est devenu un enjeu majeur pour les acteurs du secteur. C'est dans ce cadre qu'Anthropic, rival ambitieux d'OpenAI, vient de réaliser un coup d'éclat en recrutant Jan Leike, jusqu'ici en charge des questions de sécurité et d'alignement chez OpenAI.
Jan Leike : de la critique à l'action chez Anthropic
Le chercheur de renom, qui avait démissionné d'OpenAI début mai en pointant publiquement du doigt l'approche de l'entreprise en matière de sécurité de l'IA, prend désormais les rênes d'une nouvelle équipe "superalignement" chez Anthropic. Sur le réseau social X (ex-Twitter), Jan Leike a précisé que son équipe se focaliserait sur différents aspects cruciaux :
- La supervision à grande échelle des systèmes d'IA
- La généralisation faible-à-forte des modèles
- La recherche automatisée sur l'alignement
Selon nos informations, Jan Leike reportera directement à Jared Kaplan, directeur scientifique d'Anthropic, et les chercheurs de la startup travaillant déjà sur la supervision à grande échelle seront placés sous sa responsabilité.
OpenAI perd un atout, Anthropic gagne en crédibilité
La mission de la nouvelle équipe d'Anthropic semble faire écho à celle de l'équipe "Superalignement" d'OpenAI, que Jan Leike co-dirigeait jusqu'ici. Cette dernière s'était fixé l'objectif ambitieux de résoudre les défis techniques fondamentaux du contrôle d'une IA surpuissante d'ici 4 ans, mais s'est souvent heurtée à la direction d'OpenAI, davantage focalisée sur la croissance commerciale selon certains observateurs.
Anthropic, la startup qui met la sécurité au cœur de sa stratégie
Depuis sa création, Anthropic a toujours cherché à se démarquer d'OpenAI en mettant l'accent sur les enjeux de sécurité et d'éthique. Son CEO, Dario Amodei, est lui-même un ancien d'OpenAI. Il aurait quitté l'entreprise suite à un désaccord sur son orientation, jugée trop "business". En fondant Anthropic, il a embarqué avec lui plusieurs figures d'OpenAI, dont Jack Clark, ancien responsable des affaires publiques.
Nous pensons qu'une IA sûre et alignée avec les valeurs humaines est non seulement possible, mais absolument nécessaire au vu des progrès fulgurants du secteur.
– Dario Amodei, CEO d'Anthropic
Avec le recrutement de Jan Leike, Anthropic envoie un signal fort : la startup est déterminée à faire de la sécurité de l'IA son cheval de bataille. De quoi conforter son image de "gentil" face au "méchant" OpenAI, régulièrement épinglé pour son manque de transparence. Mais au-delà de la communication, c'est bien sur le terrain technique que se jouera la bataille. Les travaux de la nouvelle équipe "superalignement" seront scrutés de près.
Course à l'IA sûre : un défi planétaire
Car l'enjeu est de taille. Avec la montée en puissance des systèmes d'IA et leur impact grandissant sur nos vies, garantir leur fiabilité et leur alignement avec nos valeurs est devenu un impératif. Cela passe par des avancées dans des domaines comme la supervision à grande échelle, pour garder le contrôle sur des IA toujours plus complexes.
Anthropic n'est pas seul sur ce créneau. Des scientifiques du monde entier planchent sur ces questions, au sein de laboratoires académiques, d'entreprises ou d'organisations dédiées comme le Machine Intelligence Research Institute. Mais en recrutant une pointure comme Jan Leike, la startup se positionne clairement comme un acteur de premier plan.
Une chose est sûre : dans la course à l'IA sûre et responsable, Anthropic vient de prendre une longueur d'avance. Reste à voir si cela suffira face à des mastodontes comme OpenAI ou DeepMind. L'avenir de l'IA, et peut-être de l'humanité, en dépend.
