Transparence requise pour l’IA dans les services publics
Alors que l'intelligence artificielle (IA) s'intègre progressivement dans tous les secteurs, y compris les services publics, le Comité économique et social européen (CESE) publie un avis appelant à davantage de prudence et de transparence dans son déploiement. Cet organe consultatif de l'UE estime qu'un encadrement rigoureux est nécessaire pour préserver les droits fondamentaux des citoyens face aux risques de biais et de discrimination liés aux algorithmes.
Des opportunités à saisir, des risques à maîtriser
Si l'IA offre de nombreuses possibilités pour automatiser des tâches complexes et rendre les services publics plus accessibles, le CESE met en garde contre les dérives potentielles des algorithmes prédictifs et génératifs s'ils ne sont pas suffisamment contrôlés et transparents. Pour l'instance européenne, il est crucial de garantir le principe de "l'humain aux commandes" afin que les agents publics gardent la maîtrise sur ces outils.
Informer les agents et les citoyens
La première recommandation du CESE porte sur l'information. Les employeurs publics sont invités à communiquer de manière claire et complète sur les systèmes d'IA utilisés, tant auprès de leurs agents que du grand public. Cette transparence est jugée essentielle pour instaurer un climat de confiance autour de ces technologies, dans la lignée des principes de l'AI Act européen adopté en mai dernier.
Des informations claires sur la mise en œuvre de ces systèmes sont essentielles pour favoriser la confiance à l'égard de cette nouvelle technologie et de son utilisation.
CESE
Former les agents publics
Au-delà de l'information, le CESE insiste sur la nécessité de former et accompagner les fonctionnaires dans la prise en main de ces nouveaux outils. L'IA présentant des caractéristiques inédites par rapport aux précédentes évolutions technologiques, des plans de montée en compétences doivent être déployés, comme le souligne une récente étude de l'OCDE sur le sujet.
Protéger les données sensibles
Autre point de vigilance soulevé par le CESE : la protection des données personnelles, en particulier celles dites sensibles comme les informations de santé ou judiciaires. L'intégration de l'IA dans les services publics doit s'accompagner d'un renforcement de la sécurité dans la collecte, le traitement et le stockage de ces données. Des outils de cybersécurité adéquats sont également requis pour prévenir les risques d'attaques et de vols.
Construire une IA publique éthique et inclusive
À travers cet avis, le CESE entend contribuer aux travaux des institutions européennes sur les garde-fous à mettre en place pour une IA au service de l'intérêt général. Il préconise une approche prudente, progressive et concertée, afin de tirer parti du potentiel de ces technologies tout en prévenant les risques d'atteinte aux droits et valeurs fondamentales de l'UE. Un défi majeur pour bâtir une IA publique éthique, transparente et inclusive.
