El aprendizaje profundo se utiliza ampliamente en el campo de la seguridad del software y los sistemas de detección de vulnerabilidades basados en el aprendizaje profundo se han convertido en una barrera sólida para la seguridad del software. Sin embargo, siempre habrá enfrentamiento entre ataque y defensa en el ámbito de la seguridad. Hoy, el editor de Downcodes trae un estudio sobre EaTVul, que desafía con éxito el sistema de detección de vulnerabilidades de aprendizaje profundo existente con su innovadora estrategia de ataque de evasión. Sus magníficas capacidades de evasión son asombrosas. Echemos un vistazo más de cerca a este impactante resultado de investigación y veamos cómo rompe defensas aparentemente impenetrables.
En esta era digital, la seguridad del software es cada vez más importante. Para descubrir vulnerabilidades en el software, los científicos han desarrollado sistemas de detección basados en el aprendizaje profundo. Estos sistemas son como inspectores de seguridad de software, capaces de identificar rápidamente posibles riesgos de seguridad. Pero recientemente, un estudio llamado EaTVul dio una bofetada a estos inspectores de seguridad.
Imagínese lo aterrador que sería si alguien pudiera hacer que los equipos de seguridad fueran invisibles para elementos peligrosos. Investigadores de Data61 de CSIRO, la Universidad Tecnológica de Swinburne y el Grupo DST de Australia han lanzado EaTVul, una innovadora estrategia de ataque de evasión. EaTVul tiene como objetivo revelar la vulnerabilidad de los sistemas de detección basados en aprendizaje profundo a ataques adversarios.
Puede modificar inteligentemente el código vulnerable para engañar a los sistemas de detección haciéndoles pensar que todo es normal. Esto es como poner un manto invisible a las mercancías peligrosas y engañar a los ojos perspicaces de las inspecciones de seguridad.
EaTVul ha sido rigurosamente probado y tiene una tasa de éxito asombrosa. Para fragmentos de más de dos líneas de código, logró una tasa de éxito de más del 83%, y para fragmentos de cuatro líneas de código, la tasa de éxito llegó incluso al 100%. En varios experimentos, EaTVul manipuló consistentemente las predicciones del modelo, ¡exponiendo! importantes lagunas en los sistemas de detección actuales.
El funcionamiento de EatVul es bastante interesante.
Primero utiliza un método llamado máquinas de vectores de soporte para encontrar muestras clave no vulnerables, al igual que identificar las preguntas más confusas de un examen. Luego utiliza una tecnología llamada mecanismo de atención para descubrir las características clave que influyen en el juicio del sistema de detección, lo que es como descubrir qué es lo que más valora el examinador al responder una pregunta.
Luego utilizó ChatGPT, un chatbot de IA, para generar datos confusos, como si estuviera inventando respuestas que parecían correctas pero que eran problemáticas. Finalmente, también utiliza un método llamado algoritmo genético difuso para optimizar los datos y garantizar que puedan engañar al sistema de detección en la mayor medida posible.
Los resultados de este estudio son una llamada de atención para el campo de la seguridad del software. Nos dice que incluso los sistemas de detección más avanzados pueden ser engañados. Es un recordatorio de que incluso los sistemas de seguridad más rigurosos pueden tener lagunas. Por lo tanto, necesitamos mejorar y fortalecer continuamente estos sistemas, al igual que necesitamos actualizar continuamente los equipos de seguridad para hacer frente a piratas informáticos cada vez más sofisticados.
Dirección del artículo: https://arxiv.org/abs/2407.19216
Destacar:
EaTVul es un nuevo método de ataque que puede engañar eficazmente a los sistemas de detección de vulnerabilidades de software basados en aprendizaje profundo, con una tasa de éxito de hasta 83%-100%.
EaTVul utiliza tecnologías como máquinas de vectores de soporte, mecanismos de atención, ChatGPT y algoritmos genéticos difusos para modificar inteligentemente códigos vulnerables para evadir la detección.
⚠️ Esta investigación expone las vulnerabilidades de los sistemas actuales de detección de vulnerabilidades de software y plantea la necesidad de desarrollar mecanismos de defensa más sólidos para hacer frente a dichos ataques.
La aparición de EaTVul sin duda trae nuevos desafíos al campo de la seguridad del software. Esto nos recuerda que frente a las crecientes amenazas a la seguridad de la red, es crucial continuar innovando y mejorando la tecnología de seguridad. Sólo mejorando continuamente las capacidades de defensa podremos proteger mejor la seguridad del mundo digital.