ويشير أحدث تقرير صادر عن مؤسسة جارتنر إلى أن الذكاء الاصطناعي أصبح أكبر خطر على الأمن السيبراني يواجه الشركات لمدة ثلاثة أرباع متتالية، وأن 80% من المديرين التنفيذيين الذين شملهم الاستطلاع يشعرون بقلق بالغ إزاء ذلك. سيقوم محرر Downcodes بتفسير محتوى التقرير لك، وتحليل كيفية استخدام الذكاء الاصطناعي في الهجمات السيبرانية، وكيف ينبغي للمؤسسات أن تستجيب لهذا التحدي الخطير بشكل متزايد. سوف تتعمق هذه المقالة في تطبيق الذكاء الاصطناعي في كتابة البرامج الضارة، وإنتاج رسائل البريد الإلكتروني التصيدية، وهجمات رفض الخدمة الموزعة، وتحلل أحدث النتائج من شركات الأمن والمؤسسات البحثية.
وفقاً لأحدث تقرير صادر عن مؤسسة جارتنر، أصبح تطبيق الذكاء الاصطناعي (AI) في الهجمات السيبرانية هو أكبر خطر تواجهه الشركات لمدة ثلاثة أرباع متتالية.
قامت الشركة الاستشارية باستطلاع آراء 286 من كبار المسؤولين التنفيذيين في مجال المخاطر والتدقيق بين شهري يوليو وسبتمبر، ووجدت أن 80% من المشاركين أعربوا عن قلقهم العميق بشأن الهجمات الضارة المعززة بالذكاء الاصطناعي. وهذا الاتجاه ليس مفاجئا، حيث توجد أدلة على أن الهجمات السيبرانية التي تستخدم الذكاء الاصطناعي آخذة في الارتفاع.
ملاحظة لمصدر الصورة: يتم إنشاء الصورة بواسطة الذكاء الاصطناعي وموفر خدمة ترخيص الصورة Midjourney
وتشمل المخاطر الناشئة الأخرى المدرجة في التقرير المعلومات الخاطئة المدعومة بالذكاء الاصطناعي، وزيادة الاستقطاب السياسي، وعدم تطابق تخصيص المواهب التنظيمية. يستخدم المهاجمون الذكاء الاصطناعي لكتابة البرامج الضارة وصياغة رسائل البريد الإلكتروني التصيدية والمزيد. إذا أخذنا شركة HP كمثال، فقد اعترض الباحثون حملة بريد إلكتروني تنشر برامج ضارة في شهر يونيو واشتبهوا في أن البرنامج النصي قد تم كتابته بمساعدة الذكاء الاصطناعي التوليدي. تم تصميم النص بشكل واضح ويتم التعليق على كل أمر، وهو أمر غير شائع في الكتابة البشرية.
وفقًا لبيانات شركة Vipre الأمنية، في الربع الثاني من عام 2023، زاد عدد هجمات الاحتيال عبر البريد الإلكتروني للأعمال بنسبة 20% مقارنة بالفترة نفسها من العام الماضي، والتي تم إنشاء ما يقرب من 50% منها بواسطة الذكاء الاصطناعي. أصبح الرؤساء التنفيذيون وموظفو الموارد البشرية وتكنولوجيا المعلومات أهدافًا رئيسية. وقال عثمان تشودري، كبير مسؤولي المنتجات والتكنولوجيا في Vipre، إن المجرمين يستخدمون خوارزميات الذكاء الاصطناعي المتطورة لصياغة رسائل بريد إلكتروني تصيدية مقنعة تحاكي أسلوب وأسلوب الاتصالات المشروعة.
بالإضافة إلى ذلك، وفقًا لتقرير صادر عن Imperva Threat Research، عانت مواقع البيع بالتجزئة في المتوسط من 569,884 هجومًا يعتمد على الذكاء الاصطناعي يوميًا في الفترة من أبريل إلى سبتمبر. وأشار الباحثون إلى أن أدوات مثل ChatGPT وClaude وGemini، بالإضافة إلى الروبوتات المتخصصة في الزحف إلى بيانات موقع الويب لتدريب نماذج اللغة الكبيرة، يتم استخدامها لإجراء أنشطة مثل هجمات رفض الخدمة الموزعة وإساءة استخدام منطق الأعمال.
ويعترف عدد متزايد من المتسللين الأخلاقيين أيضًا باستخدام الذكاء الاصطناعي التوليدي، حيث ارتفعت النسبة إلى 77% من 64% في العام الماضي. وقال الباحثون إن الذكاء الاصطناعي يمكن أن يساعد في الهجمات متعددة القنوات وهجمات حقن الأخطاء والهجمات الآلية التي تهاجم أجهزة متعددة في وقت واحد. وعلى هذا النحو تمامًا، إذا وجد "الأخيار" أن الذكاء الاصطناعي مفيد، فإن "الأشرار" سيستفيدون أيضًا من التكنولوجيا.
إن صعود الذكاء الاصطناعي ليس مفاجئا، لأنه خفض عتبة الجرائم السيبرانية، مما سمح للمجرمين ذوي المهارات التقنية الأقل باستخدام الذكاء الاصطناعي لإنشاء عمليات مزيفة عميقة، ومسح مداخل الشبكة، وإجراء الاستطلاع، وغير ذلك الكثير. قام الباحثون في المعهد الفيدرالي السويسري للتكنولوجيا مؤخرًا بتطوير نموذج يمكنه حل مشكلة Google reCAPTCHA v2 بنسبة 100%. توقع المحللون في شركة Radware الأمنية في بداية العام أن ظهور نماذج GPT الخاصة سيتم استخدامها لأغراض ضارة وأن عدد ثغرات يوم الصفر وعمليات الاحتيال العميق سيزداد.
وأشارت جارتنر أيضًا إلى أنه للمرة الأولى، أصبحت المشكلات الهامة لموردي تكنولوجيا المعلومات على قائمة اهتمام المديرين التنفيذيين. وقال زاكاري جينسبيرغ، المدير الأول لإدارة المخاطر وممارسات التدقيق لدى جارتنر، إن العملاء الذين يعتمدون بشكل كبير على بائع واحد قد يواجهون مخاطر أكبر. تمامًا مثل حادثة dStrike في شهر يوليو، والتي أصابت 8.5 مليون جهاز يعمل بنظام Windows حول العالم بالشلل، كان لها تأثير كبير على خدمات الطوارئ والمطارات ووكالات إنفاذ القانون.
بشكل عام، ينعكس تأثير السيف ذو الحدين لتقنية الذكاء الاصطناعي بشكل واضح في مجال أمن الشبكات. تحتاج الشركات إلى اتخاذ تدابير دفاعية بشكل استباقي، مثل تعزيز التدريب الأمني، وتنفيذ المصادقة متعددة العوامل، واعتماد تكنولوجيا متقدمة للكشف عن التهديدات، للتعامل بفعالية مع الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي. في المستقبل، من الضروري الاستمرار في الاهتمام باتجاهات تطوير أمن الذكاء الاصطناعي واستكشاف استراتيجيات الاستجابة بنشاط.