OpenAI ne tient pas sa promesse d’outil d’opt-out pour 2025
En mai dernier, la startup d'intelligence artificielle OpenAI annonçait le développement d'un outil baptisé Media Manager. Son objectif : permettre aux créateurs de spécifier comment ils souhaitent que leurs œuvres soient incluses dans - ou exclues de - les données d'entraînement de ses modèles d'IA. Une promesse ambitieuse qui devait se concrétiser d'ici 2025. Mais force est de constater qu'à ce jour, l'outil tant attendu n'a toujours pas vu le jour.
Media Manager, un projet au point mort ?
D'après les informations recueillies par TechCrunch auprès de sources proches de l'entreprise, Media Manager n'a jamais été considéré comme une priorité en interne. Un ancien employé confie même ne pas se souvenir que quiconque ait réellement travaillé dessus. Fred von Lohmann, membre de l'équipe juridique d'OpenAI en charge du projet, a d'ailleurs récemment transitionné vers un rôle de consultant à temps partiel.
Un enjeu crucial pour les créateurs
Pourtant, la question du contrôle de l'usage des œuvres par les IA est un sujet brûlant. De nombreux artistes, écrivains et autres créateurs s'inquiètent de voir leur travail exploité sans autorisation ni compensation pour entraîner des modèles générant du contenu. Des class actions ont d'ailleurs été lancées contre OpenAI par des auteurs comme Sarah Silverman ou des médias tels que le New York Times.
Limiter les données d'entraînement aux livres du domaine public et aux dessins vieux de plus d'un siècle pourrait donner lieu à une expérience intéressante, mais ne fournirait pas des systèmes d'IA répondant aux besoins des citoyens d'aujourd'hui.
– OpenAI, dans une soumission à la Chambre des Lords britannique
Des solutions d'opt-out limitées
Certes, OpenAI propose déjà quelques moyens aux créateurs de se retirer de l'entraînement de ses IA, comme un formulaire pour signaler des images. Mais ces méthodes sont jugées insuffisantes et contraignantes. Media Manager devait justement y remédier en offrant une solution complète et automatisée, établissant un standard pour toute l'industrie.
Fair use ou violation du droit d'auteur ?
Au-delà de l'opt-out, c'est toute la question de la légalité de l'entraînement des IA sur des œuvres protégées qui se pose. OpenAI invoque pour sa défense le principe de "fair use", estimant que ses modèles créent des contenus transformatifs et non des copies. Une position fragilisée par l'absence de Media Manager, même si la justice pourrait lui donner raison comme dans le procès opposant Google aux éditeurs pour son projet Google Books il y a 10 ans.
Toujours est-il qu'en ne tenant pas son engagement sur Media Manager, OpenAI nourrit la défiance des créateurs envers l'IA générative. Une situation qui risque de s'envenimer si l'entreprise ne clarifie pas rapidement sa feuille de route et sa position sur le respect de la propriété intellectuelle. Car pour révolutionner la création comme elle l'ambitionne, la startup va devoir composer avec les artistes, pas les spolier.
