Anthropicは、AIが生成された回答の透明性とトレーサビリティを高めることを目的とした、Claude AIファミリーのモデルの「Citations」と呼ばれる新しい機能を開始しました。 「引用」は、正確な文や段落の引用を含むAI回答のソースを自動的に提供し、それにより、回答の信頼性を改善し、AIモデルの「幻想」現象を減らすことができます。この新機能は、人類のAPIとGoogleのVertex AIプラットフォームで発売されており、開発者により信頼性の高いAIツールを提供しています。
AIモデルの透明性とトレーサビリティを向上させるために、人類は木曜日に新しい機能である引用を発表しました。この機能は、開発者がClaude AIシリーズを通じて生成された回答で、文や段落を含むソースドキュメントから正確な参照を提供できるように設計されています。この革新的な機能は、最初の発売後、AnthropicのAPIとGoogleのVertex AIプラットフォームですぐに利用できました。
引用機能:ドキュメントの透明性と精度を改善します
人類によると、引用関数は、ソース文書の正確な文と段落を引用して、AIモデルによって生成された回答のソースを開発者に自動的に提供できます。この機能は、ドキュメントの概要、Q&Aシステム、カスタマーサポートアプリケーションに特に適しており、回答の信頼性と透明性を高めることができます。ソースの文献を導入することにより、開発者はAIモデルの推論プロセスをより明確に理解し、「幻想」現象(つまり、AIによって生成された根拠のないまたは誤った情報)を減らすことができます。
アプリケーションと価格設定の範囲
Citations機能の発売は広範囲にわたる注目を集めていますが、現在、AnthropicのClaude3.5SonnetおよびClaude3.5haikuモデルに限定されています。さらに、この機能は無料ではなく、人類はソースドキュメントの長さと数量に基づいて対応する料金を請求します。たとえば、約100ページのソースドキュメントは、Claude3.5Sonnetを使用する場合は約0.30ドル、Claude3.5haikuを使用する場合は0.08ドルかかります。これは、AI生成エラーを減らし、コンテンツが不正確になりたい開発者に投資する価値のあるオプションかもしれません。
引用:AIの幻覚とエラーに対処するための効果的なツール
引用の発売は、特にAIモデルの「幻想」問題を解決する際に、AIが生成されたコンテンツの分野での人類の競争力を間違いなく強化しました。 AIの幻想は常に開発者とユーザーが直面する課題の1つであり、Citations機能はAIに生成されたコンテンツの信頼性をより保証し、開発者がAIに生成されたコンテンツのソースを明確に見ることができるようにします。このように、人類は製品の透明性を向上させるだけでなく、開発者に生成されたコンテンツがより正確で検証可能であることを保証するためのより多くのツールを提供します。
要約します
AIテクノロジーの継続的な開発により、透明性とトレーサビリティがますますユーザーと開発者の焦点になりつつあります。人類によって開始された引用機能は、この需要に対応し、開発者により高いレベルの制御とAIコンテンツの正確性を確保する能力を提供します。将来的には、この機能はAI開発ツールの標準的な構成となる可能性があり、業界全体がより信頼できる方向に発展するようになります。
全体として、Anthropicの引用機能は、AIモデルの透明性と信頼性を改善し、AIの幻想を軽減し、開発者により信頼性の高いツールを提供するのに役立つ重要なステップです。 これは、AIテクノロジーの健全な開発を促進するのに役立ちます。