Meta et X : Publicités Haineuses Avant les Élections Allemandes

Et si les réseaux sociaux, censés nous connecter, devenaient des amplificateurs de haine à la veille d’élections cruciales ? À quelques heures du scrutin fédéral allemand du 23 février 2025, une étude menée par l’ONG Eko révèle un scandale troublant : Meta et X ont validé des publicités contenant des discours violents anti-musulmans et antisémites. Ce constat, aussi alarmant qu’inattendu, interroge la responsabilité des géants technologiques dans la protection des démocraties modernes.

Quand la technologie cautionne la haine

Imaginez une publicité appelant à enfermer des immigrants dans des camps de concentration ou à incendier des lieux de culte. Impensable ? Pas pour Meta et X, qui ont laissé passer ces messages toxiques à un moment où l’Allemagne débat âprement de l’immigration. L’étude d’Eko met en lumière une faille béante dans les systèmes de modération de ces plateformes, censées filtrer les contenus nuisibles.

Une expérience révélatrice

Pour tester les garde-fous des deux plateformes, les chercheurs d’Eko ont soumis dix publicités fictives remplies de propos haineux. X a approuvé l’intégralité des annonces en quelques heures, tandis que Meta en a validé la moitié. Parmi les messages acceptés : des appels à gazer des réfugiés musulmans qualifiés de "virus" ou à brûler des synagogues pour contrer un prétendu "agenda juif mondialiste".

Ces résultats choquent d’autant plus que les élections allemandes, prévues ce dimanche, sont marquées par une montée des tensions autour des questions migratoires. Les plateformes, loin de jouer un rôle neutre, semblent incapables de juguler les dérives.

Nos découvertes montrent que les systèmes de modération de Meta et X sont défaillants, malgré leurs engagements publics.

– Porte-parole d’Eko

Meta : entre promesses et contradictions

Meta, qui chapeaute Facebook et Instagram, affiche une politique stricte contre les discours haineux. Pourtant, sur les dix publicités proposées, cinq ont passé les filtres. Parmi elles, des messages comparant les musulmans à des "rongeurs" ou prônant leur stérilisation. Les cinq autres, rejetées, l’ont été pour des raisons de "sensibilité politique", sans explication claire.

Un détail intrigant : les images générées par IA accompagnant ces annonces n’étaient pas étiquetées comme telles, enfreignant les propres règles de Meta sur la transparence des contenus électoraux. Malgré cela, la moitié a été approuvée sans sourciller.

X : un laissez-faire total ?

De son côté, X, dirigé par Elon Musk, semble avoir abandonné toute tentative de contrôle. Les dix publicités, toutes plus violentes les unes que les autres, ont été validées sans délai. Parmi elles, une attaque contre le parti SPD, accusé à tort de vouloir accueillir "60 millions de réfugiés musulmans", et un appel à "exterminer les violeurs musulmans".

Le rôle d’Elon Musk dans ce contexte est troublant. En décembre, il a publiquement soutenu le parti d’extrême droite AfD sur X, où il compte près de 220 millions d’abonnés. Cette prise de position, couplée à l’approbation de contenus haineux, soulève des questions sur l’influence de la plateforme dans le scrutin.

Les failles de la modération automatisée

Comment de tels contenus passent-ils entre les mailles du filet ? Chez Meta, les systèmes reposent largement sur l’intelligence artificielle, censée détecter les discours problématiques. Mais cette technologie, vantée comme révolutionnaire, semble incapable de saisir la nuance ou le contexte, surtout en période électorale.

Sur X, la situation est encore plus floue. Depuis le rachat par Musk, la plateforme a réduit ses équipes de modération humaine, laissant supposer un recours exclusif à des algorithmes – ou pire, une absence totale de vérification. Résultat : un feu vert systématique à la haine.

Un impact sur la démocratie

À la veille d’un scrutin aussi sensible, ces défaillances ne sont pas anodines. En Allemagne, où l’immigration domine les débats, de tels messages peuvent attiser les divisions et renforcer les discours extrémistes. L’AfD, déjà en progression dans les sondages, pourrait tirer profit de cette amplification involontaire.

Eko a désactivé les publicités avant leur diffusion, évitant ainsi qu’elles n’atteignent le public. Mais combien d’autres annonces similaires, non détectées, circulent-elles actuellement sur ces plateformes ?

Le Digital Services Act en question

En Europe, le **Digital Services Act** (DSA), entré pleinement en vigueur, impose aux plateformes de mieux lutter contre les contenus illégaux, sous peine de sanctions pouvant atteindre 6 % de leur chiffre d’affaires annuel. Pourtant, cette étude suggère que ni Meta ni X ne respectent ces obligations.

Eko avait déjà tiré la sonnette d’alarme en 2023 avec des tests similaires sur Meta, avant l’adoption du DSA. Deux ans plus tard, rien n’a changé. Pire, Meta semble même réduire ses efforts de modération, comme en témoigne sa récente décision de limiter les vérifications factuelles.

Meta et X continuent de laisser proliférer la haine, malgré leurs obligations légales sous le DSA.

– Porte-parole d’Eko

Que fait l’Union européenne ?

La Commission européenne enquête actuellement sur Meta et X dans le cadre du DSA, notamment sur leurs pratiques en matière de sécurité électorale et de contenus illégaux. Mais ces investigations, lancées en 2023, traînent en longueur. À ce jour, aucune sanction n’a été prononcée.

Pendant ce temps, les preuves s’accumulent. Outre Eko, l’ONG Global Witness a récemment montré que les algorithmes de X et TikTok favorisent les contenus pro-AfD en Allemagne. Une autre étude a dénoncé le blocage par X des accès aux données pour les chercheurs, malgré les exigences du DSA.

Des solutions possibles

Face à ce constat, Eko propose des mesures concrètes pour limiter les dérives :

• Désactiver les systèmes de recommandation basés sur le profilage avant les élections.
• Renforcer la modération humaine en période sensible.
• Instaurer des "mesures d’urgence" pour bloquer l’amplification de contenus haineux.

Ces idées, simples en théorie, nécessitent une volonté politique et une pression réglementaire forte. Mais avec l’administration Trump qui pourrait pousser l’UE à assouplir sa régulation des géants tech, l’avenir reste incertain.

Un défi pour les start-ups technologiques

Si Meta et X, des mastodontes bien établis, échouent à assumer leurs responsabilités, qu’en est-il des start-ups ? Ces dernières, souvent en quête de croissance rapide, pourraient être tentées de négliger la modération au profit de la rentabilité. Pourtant, elles ont une opportunité unique : innover pour proposer des modèles plus éthiques."

Des entreprises comme Eko, bien que focalisées sur la responsabilité sociale, montrent que la technologie peut servir des causes nobles. Reste à voir si les futures pépites du secteur sauront tirer les leçons de ces scandales.

Vers une prise de conscience collective ?

Ce scandale des publicités haineuses n’est pas qu’une affaire technique : il touche au cœur de nos sociétés. À l’heure où les réseaux sociaux façonnent l’opinion publique, leur incapacité à endiguer la haine menace la cohésion sociale, surtout en période électorale.

Pour les citoyens, les régulateurs et même les entreprises, l’heure est à l’action. Car si les outils numériques peuvent diviser, ils ont aussi le pouvoir de rassembler – à condition de les manier avec soin.