L’IA et le droit : un juge bloque la loi californienne

L'intelligence artificielle fait une nouvelle fois la une, cette fois-ci sur le terrain juridique. Un juge fédéral vient en effet de bloquer l'une des toutes premières lois sur l'IA aux États-Unis, à peine deux semaines après sa signature par le gouverneur de Californie, Gavin Newsom. Cette décision, qui intervient dans le cadre d'une affaire concernant un deepfake de la vice-présidente Kamala Harris, soulève d'importants enjeux sur la régulation des nouvelles technologies et la liberté d'expression à l'ère du numérique.

La loi AB 2839 : première tentative de régulation des deepfakes politiques

La loi en question, baptisée AB 2839, visait à responsabiliser les personnes diffusant sur les réseaux sociaux des deepfakes représentant des candidats politiques. Plus précisément, elle permettait aux juges californiens d'ordonner le retrait de tels contenus si leur auteur savait qu'il s'agissait de faux susceptibles de tromper les électeurs.

Une approche inédite, dans la mesure où la loi ne s'attaquait pas aux plateformes hébergeant ces deepfakes, mais à ceux qui les propagent. Elle laissait ainsi entrevoir des sanctions financières pour les contrevenants. Le gouverneur Newsom avait d'ailleurs suggéré qu'elle pourrait être utilisée pour forcer Elon Musk à retirer un deepfake de Kamala Harris qu'il avait relayé, déclenchant une petite guerre en ligne entre les deux hommes.

Un deepfake de Kamala Harris au cœur de la polémique

C'est justement l'auteur de ce fameux deepfake, un utilisateur de X (anciennement Twitter) nommé Christopher Kohls, qui a porté l'affaire devant la justice. Dès le lendemain de la signature de la loi, son avocat déposait une plainte visant à bloquer AB 2839, arguant qu'il s'agissait d'une satire protégée par le Premier amendement sur la liberté d'expression.

AB 2839 « s'appuie sur divers termes subjectifs » et « implique de vastes quantités de discours politique et constitutionnellement protégé »

– Juge John Mendez

Le juge pointe une loi trop large et subjective

Et le juge fédéral John Mendez vient de lui donner raison, estimant dans sa décision que la loi était effectivement trop large et faisait appel à des termes trop subjectifs. Il souligne que :

• Presque tout contenu modifié numériquement pourrait être considéré comme préjudiciable selon cette loi.
• Les définitions vagues ouvrent la porte à une application arbitraire bâillonnant la liberté d'expression.
• Vidéos YouTube, posts Facebook et tweets sont les caricatures politiques d'aujourd'hui et méritent la même protection.

S'il reconnaît l'intérêt de l'État à préserver l'intégrité des élections face aux deepfakes, il juge que cela ne peut se faire au détriment des valeurs du Premier amendement et de la tradition de critique, parodie et satire qu'il protège.

Une première manche pour les partisans de la libre expression sur X

Cette décision marque donc une première victoire pour le camp d'Elon Musk et des utilisateurs de X attachés à une vision large de la liberté d'expression. Dans les jours qui ont suivi la signature de la loi, le patron de Tesla et ses alliés avaient d'ailleurs posté une série de deepfakes semblant mettre AB 2839 à l'épreuve.

Cela étant, il ne s'agit que d'une injonction préliminaire. Il faudra attendre de voir si la loi californienne est définitivement bloquée ou retouchée. Mais quel que soit le verdict final, il aura peu d'impact sur les élections de novembre, AB 2839 étant de toute façon l'une des 18 nouvelles lois sur l'IA signées par Newsom en un mois.

Réguler l'IA sans brider l'innovation, le défi des législateurs

Cette affaire illustre en tout cas toute la difficulté à réguler les nouvelles technologies comme l'intelligence artificielle. Comment protéger les citoyens et la démocratie des dérives potentielles sans pour autant entraver l'innovation et les libertés fondamentales ?

Au-delà de ce deepfake de Kamala Harris, c'est tout l'équilibre entre progrès technologique, sécurité et droits individuels qu'il va falloir repenser à l'ère de l'IA. Un défi majeur pour les législateurs du monde entier dans les années à venir, qui devront naviguer entre les écueils d'une régulation trop rigide et les risques d'un far west numérique.

Une chose est sûre : le bras de fer entre les partisans d'un encadrement strict et les défenseurs d'une liberté d'expression la plus large possible ne fait que commencer. Et il promet d'être long et complexe, à l'image de la technologie qu'il entend réguler.