O aprendizado profundo é amplamente utilizado na área de segurança de software, e os sistemas de detecção de vulnerabilidades baseados em aprendizado profundo tornaram-se uma barreira sólida para a segurança de software. Porém, sempre haverá confronto entre ataque e defesa na área de segurança. Hoje, o editor do Downcodes traz um estudo sobre o EaTVul, que desafia com sucesso o sistema existente de detecção de vulnerabilidades de aprendizagem profunda com sua estratégia inovadora de ataque de evasão. Suas excelentes capacidades de evasão são surpreendentes. Vamos dar uma olhada mais de perto neste resultado chocante da pesquisa e ver como ele rompe defesas aparentemente impenetráveis.
Nesta era digital, a segurança do software está se tornando cada vez mais importante. Para descobrir vulnerabilidades em software, os cientistas desenvolveram sistemas de detecção baseados em aprendizagem profunda. Esses sistemas são como inspetores de segurança de software, capazes de identificar rapidamente possíveis riscos de segurança. Mas recentemente, um estudo chamado EaTVul deu um tapa na cara desses inspetores de segurança.
Imagine o quão assustador seria se alguém pudesse tornar o equipamento de segurança invisível para itens perigosos? Pesquisadores da Data61 da CSIRO, da Universidade de Tecnologia de Swinburne e do Grupo DST da Austrália lançaram o EaTVul, uma estratégia inovadora de ataque de evasão. O EaTVul visa revelar a vulnerabilidade dos sistemas de detecção baseados em aprendizagem profunda a ataques adversários.
Ele pode modificar de forma inteligente o código vulnerável para induzir os sistemas de detecção a pensar que tudo está normal. Isto é como colocar uma capa invisível sobre mercadorias perigosas e enganar os olhares atentos das inspecções de segurança.
O EaTVul foi rigorosamente testado e tem uma taxa de sucesso surpreendente. Para trechos com mais de duas linhas de código, alcançou uma taxa de sucesso de mais de 83%, e para trechos de quatro linhas de código, a taxa de sucesso chegou a 100% Em vários experimentos, o EaTVul manipulou consistentemente as previsões do modelo, expondo! deficiências significativas nos actuais sistemas de detecção.
O funcionamento do EaTVul é bastante interessante.
Primeiro, ele usa um método chamado máquinas de vetores de suporte para encontrar amostras importantes não vulneráveis, da mesma forma que identifica as questões mais confusas em um exame. Em seguida, ele usa uma tecnologia chamada mecanismo de atenção para descobrir os principais recursos que influenciam o julgamento do sistema de detecção, que é como descobrir o que o examinador mais valoriza ao responder a uma pergunta.
Em seguida, usou o ChatGPT, um chatbot de IA, para gerar dados confusos, como se estivesse inventando respostas que pareciam corretas, mas problemáticas. Finalmente, ele também usa um método chamado algoritmo genético difuso para otimizar os dados e garantir que eles possam enganar o sistema de detecção ao máximo.
Os resultados deste estudo são um alerta para a área de segurança de software. Diz-nos que mesmo os sistemas de detecção mais avançados podem ser enganados. É um lembrete de que mesmo os sistemas de segurança mais rigorosos podem apresentar lacunas. Portanto, precisamos melhorar e fortalecer continuamente esses sistemas, assim como precisamos atualizar continuamente os equipamentos de segurança para lidar com hackers cada vez mais sofisticados.
Endereço do artigo: https://arxiv.org/abs/2407.19216
Destaque:
? EaTVul é um novo método de ataque que pode efetivamente enganar sistemas de detecção de vulnerabilidades de software baseados em aprendizagem profunda, com uma taxa de sucesso de 83% a 100%.
EaTVul utiliza tecnologias como máquinas de vetores de suporte, mecanismos de atenção, ChatGPT e algoritmos genéticos difusos para modificar códigos vulneráveis de forma inteligente e evitar a detecção.
⚠️ Esta pesquisa expõe as vulnerabilidades dos atuais sistemas de detecção de vulnerabilidades de software e apela à necessidade de desenvolver mecanismos de defesa mais fortes para lidar com tais ataques.
O surgimento do EaTVul traz, sem dúvida, novos desafios ao campo da segurança de software. Isto lembra-nos que, face às crescentes ameaças à segurança das redes, é crucial continuar a inovar e a melhorar a tecnologia de segurança. Somente melhorando continuamente as capacidades de defesa poderemos proteger melhor a segurança do mundo digital.