Modération par IA vs humains: Instagram clarifie sa position
Ces derniers jours, les plateformes Instagram et Threads ont été confrontées à de sérieux problèmes de modération de contenu. De nombreux utilisateurs ont vu leur compte désactivé, leur contenu disparaître ou être injustement marqué comme spam. Beaucoup ont pointé du doigt les systèmes d'intelligence artificielle (IA) utilisés pour la modération, les suspectant d'être à l'origine de ces dysfonctionnements. Cependant, Adam Mosseri, le patron d'Instagram, vient d'apporter un éclairage différent sur la situation.
Des erreurs humaines, pas de l'IA
Dans un post publié sur Threads, Adam Mosseri révèle que l'entreprise a identifié des erreurs commises par les modérateurs humains, et non par les systèmes automatisés d'IA. Il explique que les reviewers humains ont pris des décisions de modération sans avoir accès au contexte complet des conversations, ce qui a conduit à des erreurs d'appréciation.
Nous avons trouvé des erreurs que nous attribuons aux reviewers de contenu - des personnes, pas des systèmes automatisés - qui ont pris des décisions sans avoir accès au contexte sur la façon dont les conversations se sont déroulées.
– Adam Mosseri, Head of Instagram
Il précise qu'Instagram était bien conscient que les modérateurs avaient besoin de contexte pour prendre les bonnes décisions, mais qu'un des outils construits pour leur fournir ce contexte était tombé en panne, les privant d'informations cruciales. "C'est de notre faute", admet-il.
Un problème multi-facettes
Cependant, cette explication ne semble pas couvrir toute l'étendue des problèmes rencontrés par les utilisateurs. Certains ont vu leur compte étiqueté par erreur comme appartenant à un utilisateur de moins de 13 ans, puis désactivé, sans qu'on comprenne bien comment un modérateur humain aurait pu faire cette supposition. Même après avoir fourni une pièce d'identité pour prouver leur âge, ces comptes sont restés inaccessibles.
De plus, de nombreux utilisateurs, y compris des personnalités réputées avec une large audience, ont constaté que leurs publications étaient moins visibles ou marquées comme spam sans raison apparente. Par exemple, l'ancien chroniqueur tech du Wall Street Journal Walt Mossberg a vu son engagement sur Threads chuter à zéro du jour au lendemain.
Instagram promet des améliorations
Face à l'ampleur du problème, Instagram a déclaré à TechCrunch que tous les dysfonctionnements n'étaient pas liés aux erreurs des modérateurs humains. La panne d'outil évoquée par Adam Mosseri en est une cause, mais d'autres facteurs encore non identifiés sont à l'étude.
L'entreprise ne sait pas si elle pourra fournir une explication détaillée de chaque problème rencontré, car les causes semblent multiples et complexes. Mais elle s'engage à tout mettre en œuvre pour améliorer ses processus de modération et éviter que de tels incidents ne se reproduisent.
Nous essayons de fournir une expérience plus sûre et nous devons faire mieux. Merci pour votre patience et continuez à nous faire part de vos commentaires.
– Adam Mosseri, Head of Instagram
Des concurrents à l'affût
Ces problèmes de modération surviennent à un moment délicat pour Instagram et sa nouvelle application Threads, lancée pour concurrencer Twitter (rebaptisé X). Des plateformes alternatives comme Bluesky en profitent pour courtiser les utilisateurs frustrés, en mettant en avant leurs propres fonctionnalités.
La course est lancée pour savoir qui offrira la meilleure expérience utilisateur, avec une modération de contenu efficace et équitable. Instagram, avec ses 1,33 milliard d'utilisateurs mensuels selon Statista, a une longueur d'avance mais ne peut se permettre de décevoir sa communauté. Les prochains mois seront décisifs pour départager les différents acteurs.
Cette affaire rappelle l'importance d'une modération de contenu de qualité sur les réseaux sociaux, qu'elle soit assurée par des systèmes d'IA ou des équipes humaines. Avec l'explosion des interactions en ligne et les enjeux sociétaux qui en découlent, il est crucial de trouver le bon équilibre pour préserver la liberté d'expression tout en luttant contre les abus. Un défi de taille pour Instagram comme pour l'ensemble de l'industrie tech.
