Des sites détruisent vie privée avec IA : attaque nudité

Le progrès technologique peut-il justifier de bafouer le consentement et la vie privée ? C'est la question que soulève aujourd'hui une inquiétante évolution de l'intelligence artificielle (IA). Des sites web proposent de générer de faux clichés nus à partir d'images de personnes habillées, ouvrant la porte à un potentiel énorme d'abus et de chantage. Face à cette menace, les autorités de San Francisco viennent d'entrer en guerre pour protéger les citoyens.

L'IA au service du revenge porn et du chantage

Le principe est aussi simple que vicieux. Vous envoyez une photo de vous ou de quelqu'un d'autre au site, qui utilise alors des algorithmes d'IA pour générer une version dénudée hyper réaliste. Le tout sans le consentement de la personne concernée bien sûr. On imagine sans peine les dérives possibles : revenge porn, chantage, intimidation, manipulation... Les victimes potentielles sont infinies, du collègue de travail à l'ex partenaire en passant par les personnalités publiques.

Le potentiel d'abus est tout simplement illimité.

David Chiu, Procureur de San Francisco

Comment fonctionnent ces sites de "deepfake pornographique" ?

Techniquement, ces outils s'appuient sur des réseaux antagonistes génératifs (GAN), un type d'IA capable d'apprendre par elle-même en analysant un grand nombre de contenus. Dans ce cas, l'algorithme est entraîné sur une vaste base de données d'images pornographiques, lui permettant d'imaginer à quoi ressemblerait une personne nue en partant d'une photo habillée.

Le résultat est bluffant de réalisme, rendant quasiment impossible pour un œil non averti de faire la différence avec une vraie photo. Pire, n'importe qui peut potentiellement utiliser ces outils sans compétence technique particulière, démocratisant la création de revenge porn ou de matériel de chantage.

Une atteinte inédite à la vie privée et au consentement

Au delà de l'aspect technologique, c'est bien la question éthique qui se pose ici. Peut-on accepter qu'une IA génère des images à caractère sexuel d'une personne sans son accord ? Juridiquement, le problème est complexe car la victime n'est pas filmée ou photographiée à proprement parler. Les images sont générées de toute pièce. Mais l'impact psychologique et réputationnel n'en est pas moins réel pour les victimes, avec des conséquences potentiellement dévastatrices sur leur vie personnelle et professionnelle.

C'est une nouvelle frontière de la violation de la vie privée et du consentement. L'anonymat du web ne peut pas être un prétexte à tous les abus.

David Chiu, Procureur de San Francisco

Une première offensive judiciaire à San Francisco

La ville de San Francisco a décidé de contre-attaquer en portant plainte contre une quinzaine de ces sites de deepfake pornographique. Objectif : les faire fermer purement et simplement pour atteinte à la vie privée. Une démarche inédite et complexe sur le plan juridique, mais qui pourrait faire jurisprudence si elle aboutit. D'autres grandes villes suivent le dossier de près et pourraient emboîter le pas à San Francisco.

Parallèlement, les géants de la tech comme Google et Facebook intensifient leurs efforts pour détecter et bloquer ce type de contenus non-consensuels sur leurs plateformes. Mais la tâche est immense face à une technologie IA en constante évolution.

Réguler l'IA sans freiner l'innovation: un équilibre délicat

Car le sujet dépasse largement le cadre du revenge porn. C'est toute la question de la régulation de l'IA qui se pose, alors que cette technologie investit de plus en plus de domaines de notre quotidien. Comment encadrer son utilisation sans pour autant brider le potentiel immense de l'IA en termes d'innovation ?

Une chose est sûre : le débat ne fait que commencer et il faudra trouver le bon équilibre entre protection des citoyens et liberté d'innover. Car mal utilisée, l'intelligence artificielle pourrait vite devenir une arme de destruction massive de nos vies privées. Un scénario cauchemardesque qu'il va falloir à tout prix éviter.

• Les autorités judiciaires montent au créneau contre les abus de l'IA
• L'IA redéfinit les contours de la vie privée et du consentement en ligne
• Un équilibre à trouver entre régulation et liberté d'innover avec l'IA