Глубокое обучение широко используется в сфере безопасности программного обеспечения, а системы обнаружения уязвимостей, основанные на глубоком обучении, стали прочным барьером на пути к безопасности программного обеспечения. Однако в сфере безопасности всегда будет существовать конфронтация между нападением и защитой. Сегодня редактор Downcodes представляет исследование EaTVul, которое успешно бросает вызов существующей системе обнаружения уязвимостей глубокого обучения благодаря своей инновационной стратегии уклонения от атак. Ее превосходные возможности уклонения просто поразительны. Давайте внимательнее посмотрим на этот шокирующий результат исследования и посмотрим, как он преодолевает, казалось бы, непробиваемую защиту.
В эпоху цифровых технологий безопасность программного обеспечения становится все более важной. Чтобы обнаружить уязвимости в программном обеспечении, ученые разработали системы обнаружения, основанные на глубоком обучении. Эти системы подобны инспекторам безопасности программного обеспечения, способным быстро выявлять потенциальные угрозы безопасности. Но недавно исследование под названием EaTVul дало этим инспекторам безопасности пощечину.
Представьте себе, как было бы страшно, если бы кто-то мог сделать оборудование безопасности невидимым для опасных предметов. Исследователи из Data61 CSIRO, Технологического университета Суинберна и австралийской DST Group запустили EaTVul, инновационную стратегию уклонения от атак? EaTVul стремится выявить уязвимость систем обнаружения на основе глубокого обучения к состязательным атакам.
Он может хитро модифицировать уязвимый код, чтобы обмануть системы обнаружения, заставив их думать, что все в порядке. Это все равно, что надевать невидимый плащ на опасные грузы и обманывать зоркие глаза проверок безопасности.
EaTVul прошел тщательное тестирование и показал поразительные результаты. Для фрагментов кода длиной более двух строк показатель успеха достигал более 83%, а для фрагментов из четырех строк кода уровень успеха достигал даже 100%. В различных экспериментах EaTVul последовательно манипулировал предсказаниями модели, разоблачая их! существенные недостатки в существующих системах обнаружения.
Как работает EaTVul, довольно интересно.
Сначала он использует метод, называемый машинами опорных векторов, для поиска ключевых неуязвимых образцов, аналогично определению самых запутанных вопросов на экзамене. Затем он использует технологию, называемую механизмом внимания, чтобы выяснить ключевые особенности, влияющие на решение системы обнаружения, что похоже на выяснение того, что экзаменатор ценит больше всего при ответе на вопрос.
Затем он использовал ChatGPT, чат-бот с искусственным интеллектом, для генерации запутанных данных, как если бы он давал ответы, которые казались правильными, но были проблематичными. Наконец, он также использует метод, называемый нечетким генетическим алгоритмом, для оптимизации данных, чтобы они могли обмануть систему обнаружения в максимально возможной степени.
Результаты этого исследования являются тревожным сигналом для области безопасности программного обеспечения. Это говорит нам о том, что даже самые совершенные системы обнаружения можно обмануть. Напоминаем, что даже в самых строгих системах безопасности могут быть бреши. Поэтому нам необходимо постоянно совершенствовать и укреплять эти системы, точно так же, как нам необходимо постоянно обновлять оборудование безопасности, чтобы противостоять все более изощренным хакерам.
Адрес статьи: https://arxiv.org/abs/2407.19216.
Выделять:
? EaTVul — это новый метод атаки, который может эффективно обмануть системы обнаружения уязвимостей программного обеспечения на основе глубокого обучения с вероятностью успеха до 83–100%.
EaTVul использует такие технологии, как машины опорных векторов, механизмы внимания, ChatGPT и нечеткие генетические алгоритмы, чтобы умело модифицировать уязвимые коды, чтобы избежать обнаружения.
⚠️ Данное исследование раскрывает уязвимости существующих систем обнаружения уязвимостей программного обеспечения и призывает к необходимости разработки более сильных защитных механизмов для борьбы с такими атаками.
Появление EaTVul, несомненно, ставит новые задачи в области безопасности программного обеспечения. Это напоминает нам, что перед лицом растущих угроз сетевой безопасности крайне важно продолжать внедрять инновации и совершенствовать технологии безопасности. Только постоянно улучшая оборонные возможности, мы сможем лучше защитить безопасность цифрового мира.