Jigsaw Open Source Altitude pour Lutter Contre l’Extrémisme en Ligne
Imaginez un instant : près de 5 milliards de contenus partagés chaque jour sur les réseaux sociaux. Parmi eux, se cachent des messages de haine, de la désinformation, et même de la propagande terroriste. Les grandes plateformes comme Google ou Meta disposent de ressources colossales pour y faire face. Mais qu'en est-il pour les plus petits acteurs ? C'est là qu'intervient Jigsaw, la filiale de Google, avec son outil open source Altitude.
Altitude, le bouclier anti-extrémisme pour les plateformes en ligne
Développé en partenariat avec Tech Against Terrorism et le Global Internet Forum to Counter Terrorism (GIFCT), Altitude permet aux modérateurs de vérifier rapidement si un contenu correspond à ceux signalés dans des bases de données tierces. Plus besoin de comparer manuellement chaque source, un vrai gain de temps et d'efficacité.
L'outil s'appuie sur des sources de données "de confiance" fournies par le GIFCT et la plateforme d'analyse de contenu terroriste de Tech Against Terrorism. Les contenus illégaux y sont identifiés et signalés en temps réel par les membres de ces organisations.
Un outil clé pour se conformer aux nouvelles réglementations
L'arrivée d'Altitude tombe à pic alors que l'Europe renforce ses règles en matière de modération de contenu en ligne. Le Digital Services Act (DSA) impose aux plateformes de supprimer rapidement les contenus illicites, sous peine de lourdes amendes. Une pression supplémentaire pour les petites structures.
Nous avons constaté que les plateformes existaient le long d'une échelle de ressources et de préparation pour gérer le contenu terroriste et extrémiste violent, et que ce niveau de préparation n'était pas nécessairement lié à la taille de leur organisation ou de leur base d'utilisateurs.
Jigsaw
Une solution open source et évolutive
Neuf mois après son lancement initial, Jigsaw transfère officiellement Altitude à Tech Against Terrorism qui en assurera le développement et la maintenance. Le code source est désormais disponible sur GitHub, permettant à chacun de l'intégrer à sa plateforme ou de contribuer à son amélioration.
À l'avenir, de nouvelles bases de données spécialisées pourraient être ajoutées et l'outil devrait s'ouvrir à d'autres langues que l'anglais. De quoi renforcer encore son efficacité dans la lutte contre l'utilisation d'Internet à des fins terroristes.
Les défis de la modération de contenu à l'ère de l'IA
Si des initiatives comme Altitude représentent un pas dans la bonne direction, la modération de contenu reste un immense défi pour les plateformes en ligne. Avec l'essor de l'intelligence artificielle générative, de nouvelles formes de contenus problématiques voient le jour, toujours plus difficiles à détecter.
Les outils de modération devront s'adapter en permanence pour rester efficaces face à ces nouvelles menaces. Une chose est sûre : la collaboration entre acteurs sera plus que jamais nécessaire pour maintenir un Internet plus sûr et inclusif pour tous. Des initiatives open source comme Altitude y contribuent, espérons qu'elles inspireront d'autres projets du même type à l'avenir.
