تشكل تقنية Deepfakes، باعتبارها ذكاءً اصطناعيًا عدائيًا سريع التطور، تهديدًا خطيرًا بشكل متزايد للاقتصاد والأمن العالميين. ومن المتوقع أن ينمو الضرر الاقتصادي الناجم عن ذلك بشكل كبير، مع كون قطاع الخدمات المصرفية والمالية هدفًا رئيسيًا. ستحلل هذه المقالة اتجاه التطور السريع لتكنولوجيا التزييف العميق، والمخاطر والتحديات التي تجلبها للمؤسسات والأفراد، وتستكشف المعضلات التي تواجهها الشركات عند التعامل مع هذا التهديد الناشئ.
باعتبارها واحدة من أسرع أشكال الذكاء الاصطناعي العدائي نموًا، من المتوقع أن ترتفع الخسائر المرتبطة بالتزييف العميق من 12.3 مليار دولار أمريكي في عام 2023 إلى 40 مليار دولار أمريكي في عام 2027، وهو معدل نمو سنوي مركب يبلغ 32%. وتتوقع شركة ديلويت أن تنتشر تقنية التزييف العميق في السنوات المقبلة، مع استهداف البنوك والخدمات المالية بشكل رئيسي.
تتصدر تقنية Deepfakes هجمات الذكاء الاصطناعي العدائية، حيث حققت نموًا بنسبة 3000% في العام الماضي وحده. ومن المتوقع أن تزيد عمليات التزييف العميق بنسبة 50% إلى 60% بحلول عام 2024، ومن المتوقع حدوث ما بين 140 ألف إلى 150 ألف حادثة مماثلة على مستوى العالم هذا العام.
يوفر أحدث جيل من تطبيقات وأدوات ومنصات الذكاء الاصطناعي التوليدية للمهاجمين كل ما يحتاجونه لإنشاء مقاطع فيديو مزيفة وأصوات منتحلة ومستندات احتيالية بسرعة وبتكلفة معقولة. يقدر تقرير Pindrops لذكاء الكلام والأمن لعام 2024 أن الاحتيال العميق الذي يستهدف مراكز الاتصال يكلف ما يقدر بنحو 5 مليارات دولار سنويًا. ويسلط تقريرهم الضوء على التهديد الخطير الذي تشكله التزييفات العميقة على الخدمات المصرفية والمالية
ذكرت بلومبرج في العام الماضي أن "صناعة منزلية كاملة ظهرت على شبكة الإنترنت المظلمة لبيع المحتالين بأسعار تتراوح من 20 دولارًا إلى آلاف الدولارات". .
لا تملك ثلث الشركات استراتيجية للتعامل مع مخاطر هجمات الذكاء الاصطناعي العدائية، والتي من المرجح أن تبدأ بتزييف عميق لمديريها التنفيذيين الرئيسيين. وجد بحث جديد أجرته شركة Ivanti أن 30% من المؤسسات ليس لديها خطة لتحديد هجمات الذكاء الاصطناعي المعادية والدفاع ضدها.
وجد تقرير حالة الأمن السيبراني لعام 2024 الصادر عن شركة Ivanti أن 74% من الشركات التي شملتها الدراسة قد رأت أدلة على تهديدات الذكاء الاصطناعي. تعتقد الأغلبية الساحقة (89%) أن تهديد الذكاء الاصطناعي قد بدأ للتو. من بين غالبية مدراء تكنولوجيا المعلومات ومديري تكنولوجيا المعلومات وقادة تكنولوجيا المعلومات الذين قابلتهم إيفانتي، كان 60% منهم يشعرون بالقلق من أن مؤسساتهم ليست مستعدة للدفاع ضد تهديدات وهجمات الذكاء الاصطناعي. أصبح استخدام التزييف العميق كجزء من استراتيجيات منسقة بما في ذلك التصيد الاحتيالي واستغلال البرامج وبرامج الفدية ونقاط الضعف المرتبطة بواجهة برمجة التطبيقات أمرًا شائعًا بشكل متزايد. ويتوافق هذا مع التهديدات التي يتوقع متخصصو الأمن أنها ستصبح أكثر خطورة بسبب الجيل الجديد من الذكاء الاصطناعي.
في مواجهة التطور السريع لتكنولوجيا التزوير العميق والمخاطر الهائلة التي تجلبها، تحتاج الشركات إلى اتخاذ تدابير مضادة بشكل فعال، وتعزيز الحماية الأمنية، وتحسين وعي الموظفين بالمخاطر من أجل تقليل الخسائر بشكل فعال وضمان سلامتهم. ويحتاج التقدم التكنولوجي أيضًا إلى التطوير بالتزامن مع تحسين التدابير الأمنية لمنع إساءة استخدام التكنولوجيا.