급속도로 발전하는 적대적 인공지능인 딥페이크는 세계 경제와 안보에 점점 더 심각한 위협을 가하고 있습니다. 이에 따른 경제적 피해는 더욱 커질 것으로 예상되며, 은행과 금융서비스업이 주요 타깃이 되고 있다. 이 기사에서는 딥페이크 기술의 급속한 발전 추세, 이것이 기업과 개인에게 가져오는 위험과 과제를 분석하고, 새롭게 떠오르는 위협에 대처할 때 기업이 직면하는 딜레마를 탐구할 것입니다.
가장 빠르게 성장하는 적대적 인공지능 형태 중 하나인 딥페이크와 관련된 손실은 2023년 123억 달러에서 2027년 400억 달러로 연평균 성장률 32%로 치솟을 것으로 예상됩니다. Deloitte는 은행과 금융 서비스가 주요 표적이 되어 향후 몇 년 동안 딥페이크가 확산될 것으로 예상합니다.
딥페이크는 적대적 AI 공격의 최전선에 있으며 지난해에만 3,000% 증가했습니다. 딥페이크는 2024년까지 50~60% 증가할 것으로 예상되며, 올해 전 세계적으로 140,000~150,000건의 딥페이크가 발생할 것으로 예상됩니다.
최신 세대의 생성 AI 애플리케이션, 도구 및 플랫폼은 공격자가 딥페이크 비디오, 사칭 음성, 사기성 문서를 빠르고 비용 효율적으로 생성하는 데 필요한 모든 것을 제공합니다. Pindrops의 2024년 음성 정보 및 보안 보고서에 따르면 컨택 센터를 표적으로 하는 딥페이크 사기로 인해 연간 약 50억 달러의 비용이 소요되는 것으로 추정됩니다. 그들의 보고서는 딥페이크가 은행 및 금융 서비스에 미치는 심각한 위협을 강조합니다.
Bloomberg는 작년에 "20달러에서 수천 달러에 달하는 사기꾼을 판매하는 다크 웹에서 전체 코티지 산업이 등장했습니다."라고 보고했습니다. 최근에는 Sumsub의 2023년 신원 사기 보고서를 기반으로 한 인포그래픽이 AI 사기의 급속한 성장에 대한 글로벌 관점을 제공합니다. .
기업의 3분의 1은 주요 임원의 딥페이크에서 시작될 가능성이 가장 높은 적대적 AI 공격의 위험에 대처할 전략이 없습니다. Ivanti의 새로운 연구에 따르면 기업의 30%는 적대적인 AI 공격을 식별하고 방어할 계획이 없는 것으로 나타났습니다.
Ivanti의 2024년 사이버 보안 현황 보고서에 따르면 조사 대상 기업 중 74%가 AI 위협의 증거를 목격한 것으로 나타났습니다. 압도적 다수(89%)는 AI 위협이 이제 막 시작되었다고 믿고 있습니다. Ivanti가 인터뷰한 대다수의 CISO, CIO 및 IT 리더 중 60%는 자신의 조직이 AI 위협 및 공격을 방어할 준비가 되어 있지 않다는 점을 우려했습니다. 피싱, 소프트웨어 악용, 랜섬웨어, API 관련 취약점을 포함한 조직화된 전략의 일환으로 딥페이크를 사용하는 것이 점점 일반화되고 있습니다. 이는 보안 전문가들이 차세대 인공 지능으로 인해 더욱 위험해질 것으로 예상하는 위협과 일치합니다.
심층 위조 기술의 급속한 발전과 그에 따른 막대한 위험에 직면한 기업은 효과적으로 손실을 줄이고 자신의 안전을 보장하기 위해 적극적으로 대응하고 보안 보호를 강화하며 직원의 위험 인식을 향상시켜야 합니다. 또한 기술의 발전은 기술 남용을 방지하기 위한 보안 조치의 개선과 동시에 개발되어야 합니다.