Detroit Police Impose de Nouvelles Règles pour la Reconnaissance Faciale
La reconnaissance faciale, une technologie à double tranchant, se retrouve une fois de plus sous les projecteurs. Cette fois-ci, c'est au tour du département de police de Detroit de s'engager dans de nouvelles voies pour encadrer son utilisation, suite à un accord juridique. Cet événement marque-t-il un tournant dans la réglementation de ces outils controversés ?
Nouvelles règles, nouveaux enjeux
L'accord trouvé par la police de Detroit impose des limites strictes quant à l'utilisation de la reconnaissance faciale. Désormais, il sera interdit de procéder à des arrestations sur la seule base des résultats fournis par ces algorithmes. De même, les séances d'identification photographique ne pourront plus s'appuyer uniquement sur cette technologie, mais devront s'accompagner d'éléments de preuve supplémentaires reliant le suspect au délit.
Au-delà de ces restrictions, la police s'engage également à former ses agents aux risques et dangers inhérents à ces outils. Un audit sera mené sur l'ensemble des affaires ayant impliqué la reconnaissance faciale depuis 2017 pour l'obtention de mandats d'arrêt. Des mesures fortes, qui seront contrôlées par un tribunal pendant les quatre prochaines années.
Une technologie biaisée ?
Ces nouvelles règles font écho aux nombreuses critiques émises à l'encontre de la reconnaissance faciale, accusée de reproduire, voire d'amplifier, certains biais discriminatoires. Comme le souligne l'ACLU (American Civil Liberties Union), les femmes et les personnes de couleur sont nettement plus susceptibles d'être mal identifiées par ces systèmes.
Avec la clôture de ce douloureux chapitre de nos vies, ma femme et moi continuerons à sensibiliser aux dangers de cette technologie.
– Roger Williams, homme arrêté à tort suite à une identification par reconnaissance faciale
Le cas de Roger Williams illustre parfaitement ces dérives. Cet homme noir a passé 30 heures en détention après avoir été identifié à tort comme l'auteur d'un vol, sur la seule foi d'un algorithme. Une méprise qui lui aura valu d'être indemnisé à hauteur de 300 000 dollars par la police de Detroit.
Vers une réglementation globale ?
Si l'accord trouvé à Detroit constitue indéniablement une avancée, la question d'un encadrement plus large de la reconnaissance faciale reste entière. Certaines villes, comme San Francisco, ont d'ores et déjà franchi le pas en interdisant purement et simplement son utilisation par les forces de l'ordre. Microsoft a également emboîté le pas en bannissant l'accès des services de police à ses technologies de reconnaissance faciale.
Face aux enjeux éthiques et sociétaux soulevés par ces outils, il semble plus que jamais nécessaire d'ouvrir un débat de fond sur leur place dans nos sociétés. Entre progrès technologique et protection des libertés individuelles, l'équilibre est fragile. Les nouvelles règles adoptées par la police de Detroit montrent la voie, reste à savoir si elles seront suivies à plus grande échelle.
Une chose est sûre : la reconnaissance faciale, si prometteuse soit-elle, ne peut s'affranchir d'un cadre légal strict, garant du respect des droits fondamentaux. C'est à ce prix que nous pourrons profiter de ses avantages, sans en subir les dérives. Un défi de taille, qui nous concerne tous, citoyens, entreprises et pouvoirs publics.
