Anthropic dévoile une nouvelle fonctionnalité d’IA : Citations
Dans une annonce peut-être destinée à détourner l'attention de l'agent Operator d'OpenAI, la startup Anthropic a dévoilé jeudi une nouvelle fonctionnalité pour son API développeur baptisée Citations. Celle-ci permet aux développeurs d'"ancrer" les réponses de sa famille d'IA Claude dans des documents sources tels que des e-mails.
Selon Anthropic, Citations permet à ses modèles d'IA de fournir des références détaillées aux "phrases et passages exacts" des documents qu'ils utilisent pour générer des réponses. Depuis jeudi après-midi, Citations est disponible à la fois dans l'API d'Anthropic et dans la plateforme Google Vertex AI.
Une fonctionnalité pour améliorer la fiabilité des IA
Comme l'explique Anthropic dans un billet de blog, avec Citations, les développeurs peuvent ajouter des fichiers sources pour que les modèles citent automatiquement les affirmations qu'ils en ont déduites. Cette fonctionnalité est particulièrement utile dans les applications de résumé de documents, de questions-réponses et de support client, où elle peut inciter les modèles à insérer des citations des sources.
Citations n'est pas disponible pour tous les modèles d'Anthropic, mais uniquement pour Claude 3.5 Sonnet et Claude 3.5 Haiku. De plus, la fonctionnalité n'est pas gratuite. Anthropic précise que Citations peut entraîner des frais en fonction de la longueur et du nombre de documents sources.
Un coût qui en vaut la peine pour les développeurs ?
Sur la base de la tarification standard de l'API d'Anthropic, qu'utilise Citations, un document source d'environ 100 pages coûterait environ 0,30 $ avec Claude 3.5 Sonnet, ou 0,08 $ avec Claude 3.5 Haiku. Cela peut valoir le coup pour les développeurs cherchant à réduire les hallucinations et autres erreurs induites par l'IA.
Les hallucinations sont un problème majeur des modèles de langage actuels. Ancrer les réponses dans des sources fiables est une approche prometteuse pour y remédier.
– Dario Amodei, PDG d'Anthropic
Une course à l'armement des fonctionnalités IA ?
Cette annonce intervient dans un contexte de compétition intense entre les acteurs de l'IA. OpenAI vient de lancer son agent Operator capable d'effectuer des tâches de manière autonome, tandis que Google et Meta investissent massivement dans leurs propres modèles.
Face à ces géants, Anthropic cherche à se différencier en mettant l'accent sur la fiabilité et la sécurité de ses IA. La startup a déjà introduit des mesures comme une formation constitutionnelle visant à aligner ses modèles sur des valeurs humaines.
Avec Citations, Anthropic offre un nouvel outil aux développeurs pour créer des applications d'IA plus fiables et transparentes. Reste à voir si cela suffira pour s'imposer face aux mastodontes du secteur, mais l'initiative mérite d'être saluée dans la quête d'une IA plus responsable.
