Anthropic は最近、Claude シリーズ モデルのシステム プロンプトをリリースしましたが、最新の機能である Artifacts の説明が不足していたため、物議を醸しました。研究者らは、この欠如がモデルの動作の完全な理解に影響を与えると指摘しています。 Anthropic は、Artifacts 機能はシステム プロンプトよりも後に起動されたため含まれていないと回答し、今後数週間以内に完全な情報を追加すると約束しました。この事件は、AI モデル システム プロンプトの開示の重要性と、透明性の観点から開発者が直面する課題を浮き彫りにしました。
先週、Anthropic は、Claude シリーズ モデルのシステム プロンプト (モデルの操作説明書) をリリースしましたが、このリリースは不完全です。この問題を受けて、Anthropic は、最新機能である Artifacts のシステム プロンプトを数週間以内に発表すると約束しました。以前、研究者らは、アーティファクトに関連するヒントが最新リリースには含まれていないと指摘していました。
Anthropic の広報担当者は、「今後数週間のうちに、アーティファクトに関する情報を含む、システム プロンプトの詳細を追加する」予定であることを認めました。先週、アーティファクト機能がすべてのクロード ユーザーに公開されたばかりであることは言及する価値があります。この機能により、ユーザーはクロードのチャット インターフェイスの隣でコード スニペットを実行できるようになります。
Anthropic がクロード システム プロンプトをリリースしたことは、透明性の最前線に立つ企業としてメディアから賞賛されましたが、Mohammed Sahli などの研究者は、同社の声明が完全性に欠けているのは主に Artifacts のシステム プロンプトが除外されていたためであると考えています。
Anthropic 氏は、アーティファクトのシステム プロンプトが先週のリリースでは表示されなかったのは主に、この機能が先週まではすべての Claude ユーザーが利用できなかったためであると説明しました。実際、Artifacts は、システムが発表を促した後に公開されました。
では、システムプロンプトはどれほど重要なのでしょうか?
AI モデル開発者は大規模な言語モデルのシステム プロンプトを公開する必要はありませんが、これらの操作手順の公開は多くの AI 愛好家にとって「楽しみ」になっています。これは、開発者がモデルの予想される動作をより深く理解するのに役立つだけでなく、ユーザーがモデルが特定のリクエストを拒否する理由を理解することもできます。
Anthropic がリリースしたシステム プロンプト ファイルによると、Claude3.5Sonnet はシリーズの中で最も先進的なバージョンであり、質問への回答の正確さと単純さを重視しています。このモデルは、情報を機密情報として明示的にラベル付けせず、冗長なつなぎ言葉や謝罪の使用を避けます。
Claude3Opus は、2023 年 8 月まで更新されるナレッジ ベースを備えた大規模なモデルで、物議を醸すトピックについての議論を可能にし、複数の視点を提供しますが、固定観念を回避し、視点のバランスを確保します。最小バージョンである Claude3Haiku は速度に重点を置いており、Claude3.5Sonnet のような動作ガイダンスはありません。
Artifacts のシステムプロンプトに関しては、具体的な内容はまだ不明です。サーリ氏はMediumへの投稿で、この機能は複雑な問題を体系的に解決し、簡潔な答えに焦点を当てることを目的としている可能性があると述べた。
ハイライト:
- ? Anthropic は、研究者の質問に答えるために、クロード モデル用の Artifacts システム プロンプトを今後数週間以内にリリースすることを約束しています。
- ? ユーザーがクロードのチャット インターフェイスの隣でコード スニペットを実行できるアーティファクト機能が、先週すべてのユーザーに利用可能になったばかりです。
- ? システム プロンプトの開示は、ユーザーがモデルの動作を理解するのに役立ち、AI 開発者が透明性を保つようになります。
全体として、この事件は大規模な言語モデル システム プロンプトの開示の重要性を反映しており、AI 研究開発分野における透明性と責任の問題も反映しています。 Anthropic のその後の行動は、その評判とユーザーの信頼に大きな影響を与えるでしょう。私たちは、同社ができるだけ早く情報を完成させ、AI分野における透明性において主導的地位を維持し続けることを期待しています。