Zoom et les avatars IA personnalisés : potentiels et risques
Imaginez pouvoir être présent à une réunion par l'intermédiaire d'un clone numérique ultra-réaliste de vous-même, capable de s'exprimer à votre place. C'est ce que Zoom, le géant de la visioconférence, compte proposer dès l'an prochain avec sa nouvelle fonctionnalité d'avatars IA personnalisés. Une avancée technologique impressionnante, mais qui soulève également des inquiétudes sur les risques de deepfakes et d'usurpation d'identité.
Des avatars IA bluffants de réalisme pour gagner du temps
Grâce à l'intelligence artificielle, Zoom pourra générer un double numérique animé et photoréaliste de chaque utilisateur à partir d'un simple clip vidéo. Il suffira ensuite de saisir un texte pour que l'avatar le prononce de manière synchronisée, avec une voix synthétique.
Pour Smita Hashim, directrice produit chez Zoom, ces avatars permettront d'échanger de façon « asynchrone » avec ses collègues, pour une collaboration « plus rapide et productive ». En se passant d'enregistrements vidéos chronophages, les entreprises pourraient ainsi démultiplier leur création de contenu.
Le spectre des deepfakes et de l'usurpation d'identité
Mais cette prouesse technologique ne va pas sans soulever des inquiétudes sur les dérives potentielles. De nombreuses IA sont déjà capables de cloner un visage et une voix de façon bluffante. Sauf que jusqu'ici, les outils grand public y ajoutaient des garde-fous, comme le consentement écrit des personnes « doublées ».
Avec ses avatars personnalisés, Zoom reste plus vague sur les mesures de protection. La société évoque une « authentification avancée » et un filigrane, mais sans plus de précisions à ce stade. De quoi nourrir les craintes de voir cette fonctionnalité dévoyée pour créer des deepfakes malveillants, en faisant dire n'importe quoi à n'importe qui.
Les deepfakes sont de plus en plus difficiles à distinguer de la réalité et inondent déjà les réseaux sociaux de désinformation.
Une menace d'autant plus tangible que les pertes liées aux arnaques par imposture ont dépassé le milliard de dollars l'an dernier selon la FTC américaine. Bien sûr, Zoom assure que des « garanties » seront intégrées, reste à voir lesquelles précisément.
Vers un encadrement indispensable des IA de synthèse
Pour endiguer le fléau des hypertrucages, des efforts de régulation sont en cours. Aux États-Unis, en l'absence de loi fédérale, plus de 10 États ont déjà adopté des textes criminalisant certains deepfakes. La Californie veut aller plus loin en permettant aux juges d'ordonner le retrait des faux contenus sous peine d'amendes.
Des initiatives nécessaires face à la démocratisation d'IA génératrices toujours plus puissantes et accessibles. Avec ses avatars ultra-réalistes, Zoom devra assumer une vigilance de tous les instants pour éviter les dérives. Car à l'heure où la frontière entre réel et virtuel ne cesse de s'estomper, l'enjeu est bien de préserver la confiance et l'intégrité des échanges numériques.
