Le deep learning est largement utilisé dans le domaine de la sécurité logicielle, et les systèmes de détection de vulnérabilités basés sur le deep learning sont devenus une barrière solide à la sécurité logicielle. Cependant, il y aura toujours une confrontation entre l’offensive et la défense dans le domaine de la sécurité. Aujourd'hui, l'éditeur de Downcodes présente une étude sur EatVul, qui défie avec succès le système de détection de vulnérabilités d'apprentissage en profondeur existant avec sa stratégie d'attaque d'évasion innovante. Ses superbes capacités d'évasion sont étonnantes. Examinons de plus près ce résultat de recherche choquant et voyons comment il brise des défenses apparemment impénétrables.
À l’ère du numérique, la sécurité des logiciels devient de plus en plus importante. Pour découvrir les vulnérabilités des logiciels, les scientifiques ont développé des systèmes de détection basés sur le deep learning. Ces systèmes sont comme des inspecteurs de sécurité logicielle, capables d'identifier rapidement les risques de sécurité potentiels. Mais récemment, une étude intitulée EatVul a donné une gifle à ces inspecteurs de sécurité.
Imaginez à quel point ce serait effrayant si quelqu'un pouvait rendre les équipements de sécurité invisibles aux objets dangereux ? Des chercheurs de Data61 du CSIRO, de l'Université de technologie de Swinburne et du groupe australien DST ont lancé EatVul, une stratégie d'attaque d'évasion innovante. EatVul vise à révéler la vulnérabilité des systèmes de détection basés sur le deep learning aux attaques adverses.
Il peut intelligemment modifier le code vulnérable pour faire croire aux systèmes de détection que tout est normal. Cela revient à dissimuler des marchandises dangereuses et à tromper les yeux perçants des inspections de sécurité.
EatVul a été rigoureusement testé et a un taux de réussite étonnant. Pour les extraits de code de plus de deux lignes, il a atteint un taux de réussite de plus de 83 %, et pour les extraits de quatre lignes de code, le taux de réussite atteignait même 100 %. Dans diverses expériences, EatVul a systématiquement manipulé les prédictions du modèle, exposant ainsi les résultats ! faiblesses importantes des systèmes de détection actuels.
Le fonctionnement d’EaTVul est assez intéressant.
Il utilise d’abord une méthode appelée machines à vecteurs de support pour trouver des échantillons clés non vulnérables, tout comme l’identification des questions les plus déroutantes d’un examen. Il utilise ensuite une technologie appelée mécanisme d'attention pour découvrir les caractéristiques clés qui influencent le jugement du système de détection, ce qui revient à découvrir ce que l'examinateur apprécie le plus en répondant à une question.
Il a ensuite utilisé ChatGPT, un chatbot IA, pour générer des données confuses, comme s’il inventait des réponses qui semblaient correctes mais problématiques. Enfin, il utilise également une méthode appelée algorithme génétique flou pour optimiser les données afin de garantir qu'elles puissent tromper le système de détection dans la plus grande mesure possible.
Les résultats de cette étude sont un signal d’alarme pour le domaine de la sécurité logicielle. Cela nous indique que même les systèmes de détection les plus avancés peuvent être trompés. Cela nous rappelle que même les systèmes de sécurité les plus rigoureux peuvent présenter des failles. Par conséquent, nous devons continuellement améliorer et renforcer ces systèmes, tout comme nous devons continuellement mettre à niveau les équipements de sécurité pour faire face à des pirates informatiques de plus en plus sophistiqués.
Adresse papier : https://arxiv.org/abs/2407.19216
Souligner:
? EatVul est une nouvelle méthode d'attaque qui peut tromper efficacement les systèmes de détection de vulnérabilités logicielles basés sur l'apprentissage profond, avec un taux de réussite allant de 83 à 100 %.
EatVul utilise des technologies telles que des machines à vecteurs de support, des mécanismes d'attention, ChatGPT et des algorithmes génétiques flous pour modifier intelligemment les codes vulnérables afin d'échapper à la détection.
⚠️ Cette recherche expose les vulnérabilités des systèmes actuels de détection de vulnérabilités logicielles et appelle à la nécessité de développer des mécanismes de défense plus solides pour faire face à de telles attaques.
L’émergence d’EaTVul apporte sans aucun doute de nouveaux défis dans le domaine de la sécurité logicielle. Cela nous rappelle que face aux menaces croissantes pour la sécurité des réseaux, il est crucial de continuer à innover et à améliorer les technologies de sécurité. Ce n’est qu’en améliorant continuellement les capacités de défense que nous pourrons mieux protéger la sécurité du monde numérique.