L’Intelligence Artificielle de Telegram Supprime 15 Millions de Contenus Suspects
Dans un contexte de pression sans précédent pour assainir sa plateforme, la messagerie cryptée Telegram a annoncé avoir supprimé pas moins de 15,4 millions de groupes et canaux liés à des contenus préjudiciables en 2024, grâce notamment à des outils de modération basés sur l'intelligence artificielle de pointe.
L'arrestation du fondateur, un électrochoc
Cette vaste opération de nettoyage intervient quelques mois après l'arrestation très médiatisée en France de Pavel Durov, fondateur de Telegram, pour son rôle présumé dans la propagation de contenus illicites et dangereux via son application. Inculpé et placé sous contrôle judiciaire moyennant une caution de 5 millions d'euros, l'entrepreneur russo-britannique a vu son procès reporté, mais l'affaire a mis un coup de projecteur sur les dérives de sa plateforme.
Telegram, qui revendique plus de 700 millions d'utilisateurs dans le monde, est régulièrement pointé du doigt pour son laxisme en matière de modération. Sa politique du "chacun est responsable de ce qu'il publie" et son chiffrement de bout en bout en ont fait le repaire de nombreux groupes et individus peu recommandables :
- Réseaux terroristes et suprémacistes
- Revenge porn et pédopornographie
- Vente de drogues, d'armes et de faux papiers
- Escroqueries financières et arnaques crypto
Face à la pression des autorités et au risque de voir Telegram banni dans certains pays, Pavel Durov a dû revoir sa copie et annoncer des mesures fortes dès septembre 2024.
Une modération dopée à l'IA
Pour mener à bien ce grand ménage, Telegram a misé sur l'intelligence artificielle et le machine learning. Ses équipes ont développé des algorithmes et modèles de détection capables d'identifier les contenus problématiques de façon proactive et à grande échelle.
Notre nouvelle IA de modération analyse les messages, photos et vidéos partagés publiquement sur Telegram à la recherche de marqueurs spécifiques liés à des activités illégales ou préjudiciables. En cas de correspondance, le contenu est signalé à notre équipe de modérateurs humains pour examen et action.
– Pavel Durov, fondateur de Telegram
En plus des groupes et canaux suspects supprimés, l'IA aurait permis de bloquer des centaines de milliers de tentatives de création de nouveaux espaces de ce type, et de bannir des comptes douteux par millions.
Des premiers résultats encourageants
Même si l'impact réel de ces actions reste à démontrer sur le long terme, Telegram se félicite d'ores et déjà d'une baisse significative des contenus problématiques et des signalements utilisateurs.
D'après les données publiées sur la nouvelle page dédiée à la modération du site, le volume de suppressions et bannissements a fortement augmenté après l'arrestation de Durov en août, témoignant d'un véritable changement de doctrine.
Les efforts de Telegram pour communiquer sur le sujet, avec des rapports de transparence réguliers, visent à redorer son blason et rassurer le grand public comme les régulateurs. Mais beaucoup restent sceptiques quant à la volonté et la capacité réelle de la plateforme à éradiquer ses démons...
Un cap difficile à tenir ?
Car si l'IA peut aider à détecter les contenus illicites évidents, elle est encore loin de pouvoir contextualiser tous les échanges et interpreter les subtilités du langage humain. La frontière entre libre expression, satire et réelle intention de nuire reste ténue.
De plus, nombre d'utilisateurs de Telegram sont précisément attirés par son côté sulfureux et sa réputation de réseau social "rebelle", hors de contrôle des GAFAM et des gouvernements. Un positionnement cornélien pour la messagerie qui devra désormais jongler en permanence entre respect de la loi et satisfaction de sa base historique.
Enfin, le chiffrement intégral des conversations privées et l'anonymat des utilisateurs, autres marqueurs forts de Telegram, pourraient vite devenir problématiques si l'app venait à rentrer complètement dans le rang. Un dilemme stratégique et technique qu'il lui faudra trancher pour assurer sa survie et sa croissance dans les années à venir.
