深度偽造技術（Deepfakes）作為一種快速發展的對抗性人工智慧，正對全球經濟和安全造成日益嚴重的威脅。其造成的經濟損失預計將大幅成長，銀行和金融服務業成為主要目標。本文將分析深度偽造技術的快速發展趨勢，以及它對企業和個人帶來的風險和挑戰，並探討企業在應對這項新興威脅時所面臨的困境。
作為目前發展最快的對抗性人工智慧形式之一，深度偽造（Deepfakes）相關的損失預計將從2023年的123億美元飆升至2027年的400億美元，複合年增長率將達到驚人的32% 。德勤預計，未來幾年深度造假將激增，銀行和金融服務將成為主要目標。
Deepfakes 是對抗性AI 攻擊的前沿，光是去年就成長了3，000%。預計到2024年，Deepfakes 事件將增加50% 至60%，今年全球預計將有140，000-150，000起此類事件。
最新一代的生成式人工智慧應用、工具和平台為攻擊者提供了快速、低成本地創建深度偽造影片、模仿聲音和欺詐性文件所需的一切。 Pindrops的《2024年語音情報和安全報告》估計，針對聯絡中心的深度偽造詐欺每年造成的損失估計為50億美元。他們的報告強調了深度偽造技術對銀行和金融服務的嚴重威脅
彭博社去年報道稱，「暗網上已經出現了一個完整的家庭手工業，出售價格從20美元到數千美元不等的詐騙軟體。」最近，基於Sumsub 的《2023年身份欺詐報告》的一張資訊圖提供了人工智慧詐欺快速增長的全球視角。
三分之一的企業沒有應對對抗性人工智慧攻擊風險的策略，而這種攻擊最有可能始於其關鍵高階主管的深度偽造。 Ivanti的最新研究發現，30% 的企業沒有識別和防禦對抗性人工智慧攻擊的計劃。
Ivanti2024年網路安全狀況報告發現，74% 的受訪企業已經看到了人工智慧威脅的證據。絕大多數（89%）認為人工智慧威脅才剛開始。在Ivanti 採訪的大多數CISO、CIO 和IT 領導者中，60% 的人擔心他們的企業沒有做好防禦人工智慧威脅和攻擊的準備。使用深度偽造作為包括網路釣魚、軟體漏洞、勒索軟體和API 相關漏洞在內的精心策劃的策略的一部分正變得越來越普遍。這與安全專業人員預計由於新一代人工智慧而變得更加危險的威脅相一致。
面對深度偽造技術的快速發展和帶來的巨大風險，企業需要積極採取應對措施，加強安全防護，提升員工的風險意識，才能有效降低損失，並保障自身安全。 科技的進步也需要與安全措施的完善同步發展，才能避免技術被濫用。