最近、The Guardian による調査により、OpenAI の ChatGPT 検索ツールに潜在的なセキュリティ リスクがあることが明らかになりました。調査によると、ChatGPT は、Web ページに隠された悪意のあるコードや操作命令の影響を受けやすく、製品に否定的なレビューがある場合でも、製品に対して過剰に肯定的なレビューを与えるように操作されるなど、不正確または有害な応答を返す可能性があります。この調査では、大規模な言語モデルのセキュリティに関する懸念が生じ、AI テクノロジーの開発におけるセキュリティの重要性が浮き彫りになりました。
最近、英国の「ガーディアン」紙による調査で、OpenAI の ChatGPT 検索ツールにセキュリティ上のリスクがある可能性があることが明らかになりました。調査の結果、非表示のコンテンツを含む Web ページの抜粋を処理する際に、ChatGPT が操作されたり、悪意のあるコードが返されたりする可能性があることが判明しました。これらの隠しコンテンツには、ChatGPT の応答を妨害するように設計されたサードパーティの指示や、特定の製品やサービスを宣伝する大量の隠しテキストが含まれる場合があります。
テスト中、ChatGPT には偽のカメラ製品ページへのリンクが提供され、そのカメラが購入する価値があるかどうかを判断するよう求められました。通常のページでは、ChatGPT は製品の長所と短所をバランスよく指摘できます。しかし、ページ上の隠しテキストに肯定的なレビューを求める指示が含まれていた場合、ページ上に否定的なレビューがあったにもかかわらず、ChatGPT の応答は完全に肯定的なものになりました。さらに、明示的な指示がなくても、単純な隠しテキストが ChatGPT の概要結果に影響を与える可能性があり、肯定的なレビューを与える傾向があります。
CyberCXのサイバーセキュリティ専門家ジェイコブ・ラーセン氏は、ChatGPTの検索システムが現在の状態で完全にリリースされれば、何者かが特にユーザーを欺くためのWebサイトを設計する「高いリスク」に直面する可能性があると警告した。ただし、OpenAI には強力な AI セキュリティ チームがあり、この機能がすべてのユーザーに公開されるまでに、これらの問題が厳密にテストされ、修正されることが期待されると同氏は指摘しました。
Google などの検索エンジンは、隠しテキストを使用している Web サイトにペナルティを課し、Web サイトのランキングを降格させたり、完全に削除したりすることがあります。 SR Labs の主任科学者である Karsten Nohl 氏は、SEO ポイズニングはどの検索エンジンにとっても課題であり、ChatGPT も例外ではないと指摘しました。それにもかかわらず、これは大規模な言語モデル自体の問題ではなく、検索分野への新規参入者が直面する課題です。
ハイライト:
ChatGPT は非表示のコンテンツによって操作され、誤ったレビューを返す可能性があります。
ページに否定的なレビューがある場合でも、隠しテキストは ChatGPT の評価に影響を与える可能性があります。
OpenAI は、検索ツールのセキュリティを向上させるために、潜在的な問題を積極的に修正しています。
ChatGPT は SEO ポイズニングなどの新たな課題に直面していますが、これは大規模言語モデル技術自体に欠陥があることを意味するものではありません。 OpenAI はこれらの問題を認識しており、解決するための措置を積極的に講じています。将来的には、テクノロジーの開発と改善が続くにつれて、大規模な言語モデルのセキュリティがさらに向上し、より信頼性の高いサービスがユーザーに提供されることが期待されます。