ディープラーニングはソフトウェアセキュリティの分野で広く使用されており、ディープラーニングに基づく脆弱性検出システムはソフトウェアセキュリティの強固な障壁となっています。しかし、セキュリティ分野では常に攻撃と防御の対立が存在します。今日、Downcodes の編集者は、革新的な回避攻撃戦略で既存の深層学習脆弱性検出システムに挑戦することに成功した EaTVul に関する研究を紹介します。その優れた回避機能は驚くべきものです。この衝撃的な研究結果を詳しく見て、一見不可能に見える防御をどのように突破するかを見てみましょう。
このデジタル時代では、ソフトウェアのセキュリティがますます重要になっています。ソフトウェアの脆弱性を発見するために、科学者は深層学習に基づいた検出システムを開発しました。これらのシステムはソフトウェア セキュリティ検査官のようなもので、潜在的なセキュリティ リスクを迅速に特定できます。しかし最近、EaTVulと呼ばれる研究により、これらのセキュリティ検査官は顔面に平手打ちを食らった。
CSIRO の Data61、スウィンバーン工科大学、オーストラリアの DST グループの研究者が、革新的な回避攻撃戦略である EaTVul を立ち上げました。 EaTVul は、敵対的攻撃に対する深層学習ベースの検出システムの脆弱性を明らかにすることを目的としています。
脆弱なコードを巧妙に変更して、検出システムをだましてすべてが正常であると思わせることができます。これは危険物に見えないマントをかけて保安検査の鋭い目をごまかしているようなものです。
EaTVul は厳密にテストされており、驚くべき成功率を持っています。 2 行を超えるコードのスニペットでは 83% 以上の成功率を達成し、4 行のコードのスニペットでは、成功率は 100% にも達しました。さまざまな実験において、EaTVul は一貫してモデルの予測を操作し、その結果を明らかにしました。電流検出システムの重大な弱点。
EaTVul の仕組みは非常に興味深いです。
まず、サポート ベクター マシンと呼ばれる方法を使用して、試験で最もわかりにくい問題を特定するのと同じように、脆弱性のない重要なサンプルを見つけます。次に、アテンション メカニズムと呼ばれるテクノロジーを使用して、検出システムの判断に影響を与える主要な特徴を見つけます。これは、検査官が質問に答える際に何を最も重視しているかを見つけるのと似ています。
次に、AI チャットボットである ChatGPT を使用して、あたかも正しそうに見えるが問題がある回答をでっち上げたかのような、紛らわしいデータを生成しました。最後に、ファジー遺伝的アルゴリズムと呼ばれる方法を使用してデータを最適化し、可能な限り検出システムを欺くことができるようにします。
この研究結果は、ソフトウェア セキュリティの分野に対する警鐘です。このことは、最先端の検出システムでもだまされる可能性があることを示しています。これは、最も厳格なセキュリティ システムでも欠陥がある可能性があることを思い出させます。したがって、ますます巧妙化するハッカーに対処するためにセキュリティ機器を継続的にアップグレードする必要があるのと同じように、これらのシステムを継続的に改善および強化する必要があります。
論文アドレス: https://arxiv.org/abs/2407.19216
ハイライト:
? EaTVul は、深層学習ベースのソフトウェア脆弱性検出システムを効果的に欺くことができる新しい攻撃方法であり、成功率は 83% ～ 100% です。
EaTVul は、サポート ベクター マシン、アテンション メカニズム、ChatGPT、ファジー遺伝的アルゴリズムなどのテクノロジーを利用して、脆弱なコードを巧妙に変更して検出を回避します。
⚠️ この研究は、現在のソフトウェア脆弱性検出システムの脆弱性を明らかにし、そのような攻撃に対処するためのより強力な防御メカニズムを開発する必要性を訴えています。
EaTVul の出現は、間違いなくソフトウェア セキュリティの分野に新たな課題をもたらします。これは、増大するネットワーク セキュリティの脅威に直面して、セキュリティ テクノロジの革新と改善を継続することが重要であることを思い出させます。防御能力を継続的に向上させることによってのみ、デジタル世界のセキュリティをより適切に保護することができます。