深度伪造技术（Deepfakes）作为一种快速发展的对抗性人工智能，正对全球经济和安全造成日益严重的威胁。其造成的经济损失预计将大幅增长，银行和金融服务业成为主要目标。本文将分析深度伪造技术的快速发展趋势，以及它对企业和个人带来的风险和挑战，并探讨企业在应对这一新兴威胁时所面临的困境。
作为目前发展最快的对抗性人工智能形式之一，深度伪造（Deepfakes）相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率将达到惊人的32%。德勤预计，未来几年深度造假将激增，银行和金融服务将成为主要目标。
Deepfakes 是对抗性 AI 攻击的前沿，仅去年一年就增长了3，000%。预计到2024年，Deepfakes 事件将增加50% 至60%，今年 全球预计将有140，000-150，000起此类事件。
最新一代的生成式人工智能应用、工具和平台为攻击者提供了快速、低成本地创建深度伪造视频、模仿声音和欺诈性文档所需的一切。Pindrops的《2024年语音情报和安全报告》估计，针对联络中心的深度伪造欺诈每年造成的损失估计为50亿美元。他们的报告强调了深度伪造技术对银行和金融服务的严重威胁
彭博社去年报道称，“暗网上已经出现了一个完整的家庭手工业，出售价格从20美元到数千美元不等的诈骗软件。”最近，基于Sumsub 的《2023年身份欺诈报告》的一张信息图提供了人工智能欺诈快速增长的全球视角。
三分之一的企业没有应对对抗性人工智能攻击风险的策略，这种攻击最有可能始于其关键高管的深度伪造。Ivanti的最新研究发现，30% 的企业没有识别和防御对抗性人工智能攻击的计划。
Ivanti2024年网络安全状况报告发现，74% 的受访企业已经看到了人工智能威胁的证据。绝大多数（89%）认为人工智能威胁才刚刚开始。在 Ivanti 采访的大多数 CISO、CIO 和 IT 领导者中，60% 的人担心他们的企业没有做好防御人工智能威胁和攻击的准备。使用深度伪造作为包括网络钓鱼、软件漏洞、勒索软件和 API 相关漏洞在内的精心策划的策略的一部分正变得越来越普遍。这与安全专业人员预计由于新一代人工智能而变得更加危险的威胁相一致。
面对深度伪造技术的快速发展和带来的巨大风险，企业需要积极采取应对措施，加强安全防护，提升员工的风险意识，才能有效降低损失，保障自身安全。 技术的进步也需要与安全措施的完善同步发展，才能避免技术被滥用。