OpenAI Limite l’Accès à Certaines Fonctionnalités de Sora
Lundi, le géant de l'intelligence artificielle OpenAI a dévoilé Sora, son nouvel outil révolutionnaire permettant de générer des vidéos à partir de simples descriptions textuelles. Cependant, malgré l'enthousiasme suscité par cette annonce, l'entreprise a décidé d'adopter une approche progressive dans le déploiement de certaines fonctionnalités clés, le temps d'affiner sa stratégie en matière de sécurité et de prévention des abus.
Une fonctionnalité puissante sous haute surveillance
Parmi les capacités les plus impressionnantes de Sora figure la possibilité de créer une vidéo en utilisant une photo ou une séquence d'une personne réelle comme référence. Bien qu'OpenAI reconnaisse le potentiel créatif immense de cette option, elle a choisi de ne la rendre accessible qu'à un sous-ensemble restreint d'utilisateurs dans un premier temps.
La possibilité de générer une vidéo en utilisant une photo ou une vidéo téléchargée d'une personne réelle comme "graine" est un vecteur d'abus potentiel envers lequel nous adoptons une approche particulièrement progressive afin d'apprendre des premiers schémas d'utilisation.
– OpenAI, billet de blog
De plus, les vidéos générées contenant des séquences ou des images de personnes réelles ne pourront pas être partagées publiquement sur le fil de découverte de la page d'accueil de Sora.
Trouver le juste équilibre entre créativité et responsabilité
Will Peebles, membre de l'équipe technique d'OpenAI et responsable de recherche sur Sora, a déclaré lors d'une présentation en direct :
En tant qu'OpenAI, nous sommes une cible de choix, nous voulons donc prévenir toute activité illégale avec Sora, mais nous souhaitons également trouver un équilibre avec l'expression créative. Nous savons que ce sera un défi permanent - nous ne serons peut-être pas parfaits dès le premier jour. Nous commençons de manière un peu conservatrice, donc si notre modération n'est pas tout à fait au point, donnez-nous simplement votre avis.
La génération de vidéos synthétiques par IA soulève en effet de nombreuses questions éthiques, avec en tête les risques liés aux deepfakes et à la désinformation. Selon Sumsub, un service de vérification d'identité, la fraude par deepfake dans le monde a été multipliée par plus de 10 entre 2022 et 2023.
Un arsenal de mesures pour contrer les abus
Afin de prévenir toute utilisation malveillante, OpenAI a mis en place plusieurs garde-fous :
- Un filtre pour détecter si une vidéo générée représente une personne de moins de 18 ans, auquel cas un seuil plus strict est appliqué pour la modération du contenu à caractère sexuel, violent ou autodestructeur.
- L'intégration de métadonnées conformes à la norme C2PA dans chaque vidéo générée, permettant aux plateformes prenant en charge ce standard de rapidement identifier le contenu issu de Sora.
- La réécriture des prompts pour empêcher Sora de générer des vidéos imitant le style d'un créateur vivant, afin d'éviter les plaintes pour violation de droit d'auteur.
OpenAI espère ainsi favoriser une utilisation responsable et éthique de sa technologie, tout en offrant aux artistes un puissant outil d'expression créative. L'entreprise s'engage à affiner continuellement son approche en fonction des retours des utilisateurs et des schémas d'utilisation observés.
Un lancement en douceur pour les abonnés ChatGPT
Dans un premier temps, seuls les abonnés ChatGPT Pro et Plus résidant dans certains pays auront accès à Sora. Cette stratégie permettra à OpenAI de tester son outil auprès d'un public restreint avant un déploiement plus large.
Reste à voir comment les utilisateurs s'approprieront cette technologie révolutionnaire et quels usages créatifs ils en feront. Une chose est sûre : avec Sora, OpenAI ouvre un nouveau chapitre passionnant dans l'histoire de la création vidéo assistée par intelligence artificielle.
