OpenAI は、生物学的脅威インテリジェンスの分野における大規模言語モデルの応用可能性を積極的に探索しています。彼らは、潜在的な生物兵器の脅威を特定し、OpenAI のリスク防止フレームワークに組み込むように設計された GPT-4 早期警告システムを開発しました。このシステムは既存の情報収集方法を置き換えることを目的としたものではなく、情報収集の効率を向上させ、人間の専門家の判断を支援することを目的としています。 100人の参加者が参加した最近の研究では、補助情報取得におけるGPT-4の有効性が事前に評価されており、その結果、GPT-4とインターネットを組み合わせることで精度と完全性がわずかに向上することが示されましたが、その効果は限定的であり、またこの研究では次のようなことも指摘されています。情報の評価のみ 取得には独自の制限があります。
米国の人工知能研究会社である OpenAI は最近、大規模な言語モデルがインターネットと比較して生物学的脅威に関する情報の取得効率を向上させることができるかどうかを調査するために、GPT-4 の早期警告システムの開発を開始しました。このシステムは、OpenAI の防止フレームワークを組み込んでいる一方で、さらなる調査が必要な生物兵器の潜在的な存在を知らせる「トリガー」として機能するように設計されています。関連する研究では、100 人の参加者が GPT-4 をインターネットと組み合わせて使用すると、バイオハザード タスクの精度と完全性がわずかに向上しましたが、その効果は顕著ではなかったことが示されました。この研究は、実用化ではなく情報取得のみを評価することの限界を強調しており、新しい生物兵器の開発に対するGPT-4の潜在的な貢献については検討していない。同時に、OpenAI は、より多くのアプリケーション オプションを提供する複数の新しいモデルのリリースを発表しました。
OpenAI によるこの研究結果は限られていますが、人工知能技術の責任ある適用に重点を置いていることが示されており、バイオセキュリティ分野における大規模言語モデルに関する将来の研究に貴重な経験を提供します。 さらなる研究では、実際のアプリケーションにおける GPT-4 のパフォーマンスと潜在的なリスクに焦点を当て、より完全なセキュリティ メカニズムを開発する必要があります。