Gartner의 최신 보고서에 따르면 AI는 3분기 연속으로 기업이 직면한 가장 큰 사이버 보안 위험이 되었으며, 설문조사에 참여한 임원 중 80%가 이에 대해 깊은 우려를 표하고 있습니다. Downcodes의 편집자는 귀하를 위해 보고서 내용을 해석하고, 사이버 공격에 AI가 어떻게 사용되는지, 기업이 점점 더 심각해지는 이 과제에 어떻게 대응해야 하는지 분석합니다. 이 기사에서는 악성 코드 작성, 피싱 이메일 생성, 분산 서비스 거부 공격에 AI를 적용하는 방법을 살펴보고 보안 회사 및 연구 기관의 최신 조사 결과를 분석합니다.
가트너가 최근 발표한 보고서에 따르면, 사이버 공격에 인공지능(AI)을 적용하는 것이 3분기 연속 기업이 직면한 가장 큰 위험이 됐다.
컨설팅 회사는 7월부터 9월까지 286명의 고위 위험 및 감사 임원을 대상으로 설문 조사를 실시한 결과 응답자의 80%가 AI로 강화된 악성 공격에 대해 깊은 우려를 표명한 것으로 나타났습니다. AI를 활용한 사이버 공격이 증가하고 있다는 증거가 있기 때문에 이러한 추세는 놀라운 일이 아닙니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
보고서에 나열된 다른 새로운 위험에는 AI 지원 잘못된 정보, 정치적 양극화 증가, 조직의 인재 할당 불일치 등이 있습니다. 공격자들은 AI를 사용하여 맬웨어 작성, 피싱 이메일 제작 등을 수행하고 있습니다. HP를 예로 들어 연구원들은 6월에 악성 코드를 유포하는 이메일 캠페인을 가로채고 해당 스크립트가 생성 AI의 도움으로 작성되었다고 의심했습니다. 스크립트는 명확하게 구성되어 있고 각 명령에 주석이 달려 있는데, 이는 사람이 쓰는 글에서는 일반적이지 않습니다.
보안업체 Vipre의 데이터에 따르면 2023년 2분기 비즈니스 이메일 사기 공격 건수는 전년 동기 대비 20% 증가했으며, 그 중 거의 50%가 AI에 의해 발생했습니다. CEO, HR 및 IT 직원이 주요 표적이 되었습니다. Vipre의 최고 제품 및 기술 책임자인 Usman Choudhary는 범죄자들이 정교한 AI 알고리즘을 사용하여 합법적인 통신의 어조와 스타일을 모방한 설득력 있는 피싱 이메일을 만들고 있다고 말했습니다.
또한 Imperva Threat Research의 보고서에 따르면 소매 웹사이트는 4월부터 9월까지 하루 평균 569,884건의 AI 기반 공격을 받았습니다. 연구원들은 ChatGPT, Claude 및 Gemini와 같은 도구와 대규모 언어 모델을 훈련하기 위해 웹사이트 데이터를 크롤링하는 전문 봇이 분산 서비스 거부 공격 및 비즈니스 논리 남용과 같은 활동을 수행하는 데 사용되고 있다고 지적했습니다.
윤리적인 해커들 역시 생성 AI를 사용한다고 인정하는 비율이 지난해 64%에서 77%로 증가했다. 연구원들은 AI가 다중 채널 공격, 결함 주입 공격, 여러 장치를 동시에 공격하는 자동화된 공격에 도움을 줄 수 있다고 말했습니다. 이처럼 '좋은 사람'이 AI가 유용하다고 생각하면 '나쁜 사람'도 이 기술을 활용할 것입니다.
AI의 부상은 사이버 범죄의 문턱을 낮췄기 때문에 기술 수준이 낮은 범죄자도 AI를 사용하여 딥 페이크 생성, 네트워크 입구 스캔, 정찰 수행 등을 수행할 수 있게 되었기 때문에 놀라운 일이 아닙니다. 스위스연방공과대학 연구원들은 최근 구글 reCAPTCHA v2의 문제를 100% 해결할 수 있는 모델을 개발했습니다. 보안업체 라드웨어(Radware) 애널리스트들은 연초 프라이빗 GPT 모델의 등장으로 악의적인 목적으로 활용될 것이며 제로데이 취약점과 딥페이크 사기가 늘어날 것이라고 예측했다.
Gartner는 또한 처음으로 중요한 IT 공급업체 문제가 경영진의 관심 목록에 포함되었다고 언급했습니다. Gartner의 위험 및 감사 부문 수석 이사인 Zachary Ginsburg는 단일 공급업체에 크게 의존하는 고객은 더 높은 위험에 직면할 수 있다고 말했습니다. 전 세계 850만 대의 Windows 장치를 마비시킨 7월의 dStrike 사건과 마찬가지로 응급 서비스, 공항, 법 집행 기관에 큰 영향을 미쳤습니다.
전체적으로 AI 기술의 양날의 검 효과는 네트워크 보안 분야에서 가장 생생하게 반영됩니다. 기업은 AI 기반 사이버 공격에 효과적으로 대처하기 위해 보안 교육 강화, 다단계 인증 구현, 첨단 위협 탐지 기술 채택 등 선제적인 방어 조치를 취해야 합니다. 앞으로도 AI 보안 발전 동향에 지속적으로 관심을 갖고 대응 전략을 적극적으로 모색하는 것이 중요하다.