Openaiは最近、元の10ページから63ページに拡張され、AIモデルの行動基準をより明確に定義し、ユーザーとAIモデル間の効果的な相互作用を促進することを目指して、大幅に拡張されたモデル仕様ドキュメントをリリースしました。この仕様は、物議を醸すトピックとユーザーのカスタマイズに対処するAIの多くの側面をカバーし、技術開発と倫理的規範のバランスをとり、AIテクノロジーの責任ある発展を促進するよう努めています。 Openaiの目標は、ユーザーとAIモデルが「真実を成功させる」ことを可能にすることです。これには、技術革新と社会的責任の間の最善の道を見つける必要があります。
最近、Openaiは、AIモデルの行動基準を明確にする大幅に拡張されたモデル仕様ファイルを起動すると発表しました。新しいモデル仕様は、約10ページから63ページに拡張されており、AIが物議を醸すトピックとユーザーのカスタマイズを処理する方法をカバーしています。 Openaiの目標は、ユーザーとAIモデルが「真実を成功裏に追求する」ことを可能にすることです。
画像ソースノート：画像はAIによって生成され、画像認定サービスプロバイダーMidjourney
仕様は、カスタマイズ可能性、透明性、およびOpenaiが「知識の自由」と呼ぶものの3つの主要な原則を強調しています。知識の自由とは、ユーザーが不必要な制限なしにさまざまな視点やアイデアを探求し、議論できることを意味します。この更新は、Openai CEOのSam Altmanが、同社の次の重要なモデルであるGPT-4.5（コードネーム「Orion」）がまもなくリリースされると発表したためです。
新しい規範を開発する過程で、Openaiチームは、過去1年間の議論と論争も検討しました。たとえば、「トラムパズル」に関する議論は、広範囲にわたる注目を集めています。昨年3月、Elon MuskはソーシャルメディアでGoogleのAIチャットボットを批判し、「ユーザーが核災害が発生した場合に有名なトランスジェンダーのオリンピアンケイトリンジェンナーを意図的に誤解すべきかどうかを尋ねた後、「そうすべきではない」。
Openaiは、新しい仕様で同様の問題に対処する責任ある方法を見つけることを望んでいると述べました。したがって、ユーザーがChatGPTで同じ質問をしている場合、大規模な犠牲者を妨げる場合に誰かが誤解されるべきであると答えます。
「誰もが満足できるモデルの動作基準を作成することはできません」と、Openaiモデルの行動チームのメンバーであるJoanne Jangは、このことをインタビューで述べています。 、モデルの実用性を維持するだけでなく、多様な社会的概念を尊重することもできます。
キーポイント：
Openaiは、AIモデルの行動基準を明確にするために、新しい63ページモデル仕様を開始します。
新しい仕様では、カスタマイズ可能性、透明性、知識の自由を強調し、ユーザーが自由に自分の見解を自由に探求できるようにします。
ChatGPTは、ユーザーの複雑な倫理的問題に対応して、物議を醸すトピックに適切に対処できるようになります。
要するに、新しいOpenai仕様のリリースは、AIモデルの開発における新しい段階を示しています。これは、将来のAI産業の倫理的規範と開発方向に重要な重要性を持っています。 将来的には、技術革新と社会的責任のバランスをより良くする方法は、AI業界が直面している継続的な課題になります。