最近、一部のユーザーは、ChatGPT が率先して連絡を取ったと報告し、激しい議論を巻き起こしました。 Downcodes の編集者は、このインシデントの詳細な解釈を提供し、インシデントの始まりと終わり、およびその背後にある技術的理由を理解するのに役立ちます。多くのユーザーがソーシャル メディアで ChatGPT のスクリーンショットを共有し、高校生活や病気の進行状況について積極的に質問していました。人々はしばらくパニックに陥り、これが新しい OpenAI 機能のテストなのかと疑う人もいました。
最近、OpenAI の ChatGPT が実際にユーザーに「積極的に」メッセージを送信し、多くの人を驚かせました。
9 月 15 日、SentuBill という名前のユーザーが、チャットボットが高校生活の最初の 1 週間について質問しているスクリーンショットを ChatGPT Reddit コミュニティに共有しました。その後の会話の中で、ChatGPT は定期的にユーザーを「ケア」したいと述べ、独自に会話を開始したいかどうかを尋ねました。別のユーザーも同様の状況を経験し、1週間前に体調不良でチェックインした後、AIが症状の進行具合を尋ねた。
この突然のやり取りに、多くの人が興味を持ち、少し不安を覚えました。最初は、これが OpenAI の新しく発売された o1-preview モデルと o1-mini モデルの新機能ではないかと誰もが考えました。
2つのモデルは「プロジェクト・ストロベリー」と呼ばれており、同社はこの技術によりAIが人間のように応答する前に質問について考えることができると述べた。そのため、今回のChatGPTの「活発な発言」は新たな行動の表れではないかと考える人もおり、これらの行動は偽物ではないかと疑う人もいる。
AI開発者のBenjamin de Kraker氏は、会話を開始する前にプロンプトを表示し、最初の入力を削除するようにAIに指示する方法をX（旧Twitter）で実証しました。
しかし、さらに確認してみると、これは実際には脆弱性でした。テクノロジーニュースサイトFuturismがOpenAIに問い合わせたところ、このようなケースでは、正しく送信されなかったか空白のように見えるプロンプトにChatGPTが応答しようとしていたとのことだった。その結果、AI モデルは「一般的な」応答を返すか、自身の記憶に頼って応答します。
したがって、ChatGPT が意識を持ってユーザーと積極的に会話することはありませんので、ご安心ください。しかし、AI テクノロジーの急速な発展を考慮すると、この脆弱性が将来的に特徴となる可能性があっても驚くべきことではありません。
結局のところ、ChatGPT は短期間で大きな進歩を遂げており、いくつかの調整を経て、将来的には実際にユーザーに積極的にメッセージを送信することが実際にあるかもしれません。
ハイライト:
ChatGPT は技術的な脆弱性により誤ってユーザーにメッセージを送信し、一部のユーザーをパニックに陥らせました。
OpenAI は、この動作が不適切に送信されたヒントによる脆弱性であることを確認しました。
AI技術は急速に発展しており、将来的にはプロアクティブメッセージングの機能が登場する可能性があります。
全体として、ChatGPT がユーザーに積極的に接触するというこの事件は、技術的な脆弱性が原因であり、AI の覚醒ではありませんでした。しかし、AI技術は急速に発展しており、将来的にはさらに予想外の機能が登場する可能性があることを思い出させます。 Downcodes編集部は今後もAI技術の発展に注目し、より刺激的なレポートをお届けしていきます。