Anthropic a lancé une nouvelle fonctionnalité intitulée "Citations" pour sa famille de modèles Claude AI pour améliorer la transparence et la traçabilité des réponses générées par l'IA. Les «citations» peuvent automatiquement fournir la source des réponses de l'IA, y compris des phrases précises et des citations de paragraphe, améliorant ainsi la crédibilité des réponses et réduisant le phénomène «illusion» des modèles d'IA. Cette nouvelle fonctionnalité a été lancée sur l'API d'Anthropic et la plate-forme Vertex IA de Google, offrant aux développeurs des outils d'IA plus fiables.
Pour améliorer la transparence et la traçabilité de son modèle d'IA, Anthropic a annoncé jeudi une nouvelle fonctionnalité, Citations. Cette fonctionnalité est conçue pour aider les développeurs à fournir des références précises à partir de documents source, y compris des phrases et des paragraphes, dans les réponses générées par la série Claude AI. Cette fonctionnalité innovante était immédiatement disponible sur l'API d'Anthropic et la plate-forme Vertex AI de Google après son premier lancement.
Caractéristique des citations: améliorer la transparence et la précision des documents
Selon Anthropic, la fonction de citations peut fournir automatiquement les développeurs la source des réponses générées par les modèles d'IA, citant les phrases et les paragraphes exacts dans le document source. Cette fonctionnalité convient particulièrement pour le résumé des documents, les systèmes de questions et réponses et les applications de support client, et peut améliorer la crédibilité et la transparence de vos réponses. En introduisant la littérature source, les développeurs peuvent avoir une compréhension plus claire du processus de raisonnement des modèles d'IA et réduire les phénomènes «illusion» (c'est-à-dire non fondés ou de désinformation générés par l'IA).
Étendue de la demande et des prix
Bien que la fonctionnalité de lancement des citations ait attiré une large attention, elle est actuellement limitée aux modèles Claude3.5Sonnet d'Anthropic et Claude3.5haiku. De plus, cette fonctionnalité n'est pas gratuite et anthropic facturera des frais correspondants en fonction de la longueur et de la quantité du document source. Par exemple, un document source d'environ 100 pages coûte environ 0,30 $ lors de l'utilisation de Claude3.5SONNET et 0,08 $ lors de l'utilisation de Claude3.5 Haiku. Cela peut être une option à investir pour les développeurs qui souhaitent réduire les erreurs de génération d'IA et un contenu inexact.
Citations: un outil efficace pour traiter les hallucinations et les erreurs de l'IA
Le lancement des citations a sans aucun doute amélioré la compétitivité d'Anthropic dans le domaine du contenu généré par l'IA, en particulier pour résoudre le problème "illusion" des modèles d'IA. L'illusion de l'IA a toujours été l'un des défis auxquels sont confrontés les développeurs et les utilisateurs, et la fonctionnalité des citations offre plus de garanties pour la fiabilité du contenu généré par l'IA, garantissant que les développeurs peuvent clairement voir la source du contenu généré par l'IA. De cette façon, Anthropic améliore non seulement la transparence des produits, mais fournit également aux développeurs plus d'outils pour s'assurer que le contenu généré est plus précis et vérifiable.
Résumer
Avec le développement continu de la technologie de l'IA, la transparence et la traçabilité deviennent de plus en plus l'objectif des utilisateurs et des développeurs. La fonction de citations lancée par Anthropic répond à cette demande et fournit aux développeurs des niveaux de contrôle plus élevés et la capacité d'assurer l'exactitude du contenu d'IA. À l'avenir, cette fonction pourrait devenir la configuration standard des outils de développement d'IA, poussant l'industrie à se développer dans une direction plus fiable.
Dans l'ensemble, la caractéristique des citations d'Anthropic est une étape importante vers l'amélioration de la transparence et de la fiabilité des modèles d'IA, contribuant à réduire les illusions de l'IA et à fournir aux développeurs des outils plus fiables. Cela aidera à promouvoir le développement sain de la technologie de l'IA.