وفقًا لصحيفة "إيكونوميك ديلي"، جذبت سلسلة من مقاطع الفيديو المدبلجة التي تم إنشاؤها بواسطة الذكاء الاصطناعي الانتباه على الإنترنت، فهي واقعية بشكل مدهش، وليست الصور نابضة بالحياة فحسب، بل إن خصائص الصوت تكاد تكون مماثلة للأشخاص الحقيقيين 100 مليون مرة في فترة زمنية قصيرة. ومع ذلك، فإن المحتوى الموجود في مقاطع الفيديو هذه ليس له علاقة بالشخصيات العامة الموجودة في الصور وقد تمت إزالته من المنصة.
وقد أدى تطور تكنولوجيا الذكاء الاصطناعي إلى خفض عتبة التزوير العميق والإنتاج الضخم منخفض التكلفة، وظهرت الصور المولدة بواسطة الذكاء الاصطناعي ومقاطع الفيديو المتغيرة للصوت وتغيير الوجه بأعداد كبيرة. وعلى الرغم من أن مقاطع الفيديو هذه ملفتة للنظر، إلا أنه لا يمكن تجاهل المخاطر الكامنة وراءها.
في الوقت الحالي، أصبح إنشاء ونشر معلومات كاذبة مشكلة عالمية، واستخدام تكنولوجيا تركيب الذكاء الاصطناعي لجعلها تبدو حقيقية يضع الأشخاص العاديين في مشكلة في تحديد المعلومات. ويُظهر "تقرير أمن الذكاء الاصطناعي لعام 2024" أن عمليات الاحتيال في مجال التزوير العميق المستندة إلى الذكاء الاصطناعي سترتفع 30 مرة في عام 2023، مما يشكل تهديدًا خطيرًا لأمن الشبكات والأمن الاجتماعي. إن انتشار المعلومات الكاذبة لا يؤدي إلى تعطيل النظام الطبيعي للفضاء السيبراني فحسب، بل قد ينقل أيضاً المشاعر السلبية من العالم الافتراضي إلى الواقع، مما يؤدي إلى تفاقم القلق الاجتماعي.
يتطلب التعامل مع الفوضى مثل التزوير العميق تعاونًا متعدد الأحزاب وحوكمة مشتركة. في الوقت الحاضر، أصدرت بلادنا قوانين ولوائح مثل "اللوائح المتعلقة بالإدارة التوليفية المتعمقة لخدمات معلومات الإنترنت" لتعزيز إدارة المحتوى من المصدر. وفي الوقت نفسه، يشير إصدار "تدابير تصنيف المحتوى الاصطناعي الناتج عن الذكاء الاصطناعي (مسودة للتعليقات)" أيضًا إلى أن المستوى الوطني يعمل على زيادة الإشراف على تكنولوجيا الذكاء الاصطناعي. فقط من خلال السماح للذكاء الاصطناعي بالتطور بشكل صحي ضمن إطار قانوني ومتوافق، يمكن للناس الاستمتاع حقًا بالأرباح التي جلبتها التغيرات التكنولوجية وتعزيز التنمية الصحية لصناعة الذكاء الاصطناعي.
كجزء مهم من نشر المعلومات، يجب على مشغلي المنصات ومقدمي الخدمات أيضًا تحمل المسؤوليات المقابلة، ورسم خطوط حمراء للمحتوى الناتج عن الذكاء الاصطناعي، والحظر الصارم لنشر المحتوى غير القانوني والمخالف والاحتيالي، وإضافة علامات تحذير بارزة لمنع نشر معلومات كاذبة. . بالإضافة إلى ذلك، فإن استخدام العلامات المائية الرقمية والطوابع الزمنية ووظائف التجزئة وغيرها من الوسائل التقنية لا يمكن أن يحسن إمكانية التحقق من صحة المعلومات فحسب، بل يمكن أن يكون أيضًا وسيلة فعالة لمنع انتشار المعلومات الخاطئة. وباعتبارهم مستهلكين للمحتوى، يجب على الجمهور أيضًا أن يظل يقظًا، وأن يعمل على تحسين قدرتهم على تحديد المحتوى الناتج عن الذكاء الاصطناعي، وتجنب المعتقدات المتحيزة.