OpenAI supprime des avertissements de contenu sur ChatGPT
C'est une annonce qui soulève des interrogations : OpenAI vient de retirer les messages d'avertissement qui s'affichaient sur ChatGPT lorsque le contenu saisi par un utilisateur risquait d'enfreindre les conditions d'utilisation. Cette décision vise à réduire les refus « gratuits et inexplicables » selon Laurentia Romaniuk, membre de l'équipe en charge du comportement des modèles d'IA chez OpenAI.
Nick Turley, responsable produit de ChatGPT, a précisé que les utilisateurs devraient désormais pouvoir « utiliser ChatGPT comme bon leur semble », tant qu'ils respectent la loi et ne cherchent pas à se faire du mal ou à en faire aux autres. Un changement majeur dans la politique de modération du chatbot le plus populaire du moment.
La fin des « drapeaux orange » sur ChatGPT
Jusqu'à présent, lorsqu'un utilisateur saisissait une requête potentiellement problématique, un message d'avertissement orange s'affichait, indiquant que le contenu pouvait violer les règles d'utilisation. Des sujets comme la santé mentale, la dépression, l'érotisme ou la violence fictive déclenchaient ces fameux drapeaux orange.
Mais OpenAI a décidé de les supprimer, estimant qu'ils donnaient une perception de censure excessive de ChatGPT. Désormais, le chatbot répondra à davantage de requêtes sensibles, même s'il refusera toujours de soutenir des faussetés évidentes ou de répondre à des questions très choquantes.
Des changements en réponse aux pressions politiques ?
Cette évolution de ChatGPT intervient dans un contexte de pression politique. Des proches de Donald Trump, comme Elon Musk ou David Sacks, accusent les IA conversationnelles de censurer les points de vue conservateurs. ChatGPT a même été qualifié de « woke » et de malhonnête sur les sujets politiques sensibles.
ChatGPT est programmé pour être woke.
David Sacks, conseiller crypto et IA de Donald Trump
En parallèle de la suppression des avertissements, OpenAI a mis à jour ses règles pour les modèles de langage, indiquant qu'ils ne fuiront pas les sujets sensibles et éviteront d'exclure certains points de vue. Une façon de démentir les accusations de parti pris ?
Quelles conséquences pour les utilisateurs de ChatGPT ?
Si OpenAI affirme que ce changement n'impactera pas les réponses de ChatGPT en tant que telles, on peut s'attendre à des évolutions dans l'expérience utilisateur :
- Moins de refus « incompréhensibles » sur certains sujets.
- Des échanges plus libres sur des thèmes auparavant restreints.
- Un risque de dérives si la modération devient trop laxiste ?
Il faudra suivre de près les prochains mois pour voir comment ChatGPT évolue suite à ces changements. Entre liberté d'expression et prévention des abus, l'équilibre est délicat à trouver pour une IA conversationnelle grand public. OpenAI parviendra-t-il à satisfaire les utilisateurs sans compromettre son éthique ?
