Le Royaume-Uni réoriente son institut sur l’IA vers la sécurité
Dans un revirement significatif, le gouvernement britannique vient d'annoncer un changement d'orientation majeur pour son Institut de sécurité de l'intelligence artificielle, anciennement connu sous le nom d'Institut de sécurité de l'IA. Cette décision reflète la nouvelle priorité accordée par le Royaume-Uni au développement et à l'utilisation responsable de l'IA pour stimuler son économie et moderniser ses services publics.
D'un focus sur les risques à un accent sur la sécurité
Lancé il y a un peu plus d'un an, l'Institut de sécurité de l'IA avait pour mission initiale d'explorer des domaines tels que les risques existentiels et les biais dans les grands modèles de langage. Désormais rebaptisé "Institut de sécurité de l'IA", l'organisme se concentrera sur la cybersécurité, en particulier le renforcement des protections contre les risques que l'IA pose pour la sécurité nationale et la criminalité.
Un partenariat stratégique avec Anthropic
Parallèlement à ce repositionnement, le gouvernement a également annoncé un nouveau partenariat avec Anthropic, l'entreprise à l'origine de l'assistant IA Claude. Bien qu'aucun service concret n'ait été dévoilé, le protocole d'accord indique que les deux parties vont "explorer" l'utilisation de Claude dans les services publics. Anthropic vise également à contribuer aux travaux de recherche scientifique et de modélisation économique.
L'IA a le potentiel de transformer la façon dont les gouvernements servent leurs citoyens. Nous sommes impatients d'explorer comment l'assistant IA Claude d'Anthropic pourrait aider les agences gouvernementales britanniques à améliorer les services publics, dans le but de découvrir de nouvelles façons de rendre les informations et les services vitaux plus efficaces et accessibles aux résidents du Royaume-Uni.
– Dario Amodei, co-fondateur et PDG d'Anthropic
Un virage assumé vers le développement de l'IA
Ce changement de cap de l'Institut de sécurité de l'IA n'est pas une surprise totale. Lorsque le nouveau gouvernement travailliste a dévoilé en janvier son Plan pour le changement fortement axé sur l'IA, il était notable que les mots "sécurité", "préjudice", "existentiel" et "menace" n'apparaissaient pas du tout dans le document. Le message principal promu est le développement, l'IA et encore plus de développement.
Concrètement, les fonctionnaires auront leur propre assistant IA appelé "Humphrey" et sont encouragés à partager les données et à utiliser l'IA dans d'autres domaines pour accélérer leur travail. Les consommateurs obtiendront des portefeuilles numériques pour leurs documents gouvernementaux et des chatbots.
Les enjeux de sécurité de l'IA toujours d'actualité
Pour autant, le gouvernement affirme que malgré le changement de nom, la chanson restera la même. Le travail de l'Institut ne changera pas, mais ce recentrage permettra de s'assurer que les citoyens - et ceux des alliés - sont protégés de ceux qui voudraient utiliser l'IA contre les institutions, les valeurs démocratiques et le mode de vie britanniques.
Depuis le début, l'Institut s'est concentré sur la sécurité et nous avons construit une équipe de scientifiques dédiée à l'évaluation des risques graves pour le public. Notre nouvelle équipe de lutte contre les abus criminels et l'approfondissement de notre partenariat avec la communauté de la sécurité nationale marquent la prochaine étape pour faire face à ces risques.
– Ian Hogarth, président de l'institut
Plus largement, les priorités semblent avoir changé concernant l'importance de la "sécurité de l'IA". Le plus grand risque que contemple actuellement l'Institut de sécurité de l'IA aux États-Unis est sa propre dissolution, comme l'a laissé entendre cette semaine le vice-président américain J.D. Vance lors de son discours à Paris.
Cette réorientation de l'Institut de sécurité de l'IA au Royaume-Uni est révélatrice d'une volonté de faire de l'IA un levier de croissance et de modernisation des services publics, tout en gérant les risques associés. Un équilibre délicat que de nombreux pays tentent de trouver dans la course à l'IA.
