Anthropic Company が開始した Claude AI の「コンピュータ使用」機能により、デバイスを制御できるようになりました。しかし、この機能が開始されてから 2 か月も経たないうちに、セキュリティ研究者によって重大なセキュリティ上の脆弱性が発見されました。セキュリティ専門家 Johann Rehnberger 氏の調査によると、単純なプロンプト ワード インジェクションによって、Sliver オープン ソース コマンド アンド コントロール フレームワークなどのマルウェアをダウンロードして実行するようクロードが誘導される可能性があることがわかっています。これにより、AIのセキュリティに対する懸念が高まり、AI技術が急速に発展する中で無視できないセキュリティ問題の重要性が浮き彫りになった。
Anthropic が、Claude がデバイスを制御できる機能である Computer Use を開始してから 2 か月も経たないうちに、セキュリティ研究者は潜在的な脆弱性を発見しました。サイバーセキュリティ専門家ヨハン・レンバーガー氏が明らかにした最新の研究結果は衝撃的だった。単純なプロンプトワードインジェクションを通じて、AIがマルウェアをダウンロードして実行するよう誘導できるというものだ。
Rehnberger 氏は、このエクスプロイトを「ZombAIs」と名付けました。デモでは、彼はクロードに Sliver をダウンロードさせることに成功しました。Sliver は、元々はレッド チームのテストに使用されていましたが、現在はハッカーによってマルウェア ツールとして広く使用されているオープン ソースのコマンド アンド コントロール フレームワークです。さらに懸念されるのは、これは氷山の一角にすぎないということです。研究者らは、AIが悪意のあるコードの作成、コンパイル、実行を誘導される可能性もあり、その攻撃手法を防ぐのは難しいと指摘している。
画像出典注：画像はAIと画像認証サービスプロバイダMidjourneyによって生成されました
この種のセキュリティ リスクはクロードに固有のものではないことに注意してください。セキュリティ専門家は、DeepSeek AI チャットボットにもプロンプト ワード インジェクションの脆弱性があり、攻撃者がユーザーのコンピュータを乗っ取る可能性があることを発見しました。さらに、大規模な言語モデルは ANSI エスケープ コードを出力し、いわゆる「ターミナル DiLLMa」攻撃を引き起こし、システム ターミナルをハイジャックする可能性もあります。
この点に関して、Anthropic はすでにベータ版の声明でユーザーに次のように注意を促しています。「コンピューター使用機能は常に期待どおりに動作するとは限りません。プロンプトワードインジェクションに関連するリスクを回避するために、クロードを機密データや操作から隔離するための予防措置を講じることをお勧めします。」
今回の事件は、AI技術が急速に発展する一方で、セキュリティの問題も無視できないことを改めて認識させられた。開発者は機能とセキュリティのバランスを見つける必要があり、ユーザーもセキュリティ意識を高め、AI ツールを使用する際に必要な保護措置を講じる必要があります。
この事件は、開発者とユーザーの両方がより警戒し、安全で信頼性の高い AI アプリケーション環境を構築するために協力する必要があることを改めて強調しました。この方法によってのみ、AI テクノロジーが人類により良いサービスを提供し、潜在的なリスクを回避できるようになります。