مع ظهور الذكاء الاصطناعي التوليدي، أصبح انتشار المعلومات الكاذبة مشكلة خطيرة. أدى التطور السريع لتكنولوجيا التزوير العميق إلى مواجهة تحديات هائلة لأمن الشبكات. ولمكافحة هذا التهديد، أطلقت Meta أداة جديدة تسمى Meta Video Seal، والتي تهدف إلى مكافحة مقاطع الفيديو المزيفة بعمق وحماية أصالة المحتوى من خلال تقنية العلامات المائية غير المحسوسة. تم إصدار هذه الأداة كمصدر مفتوح وتم دمجها مع أداة العلامات المائية التي تم إصدارها مسبقًا من Meta لتشكيل حل أكثر شمولاً لمكافحة التزييف العميق.
مع تحول الذكاء الاصطناعي إلى تسويق تجاري، زادت كمية المحتوى الزائف عبر الإنترنت بشكل كبير. وفقًا للبيانات الواردة من منصة التحقق من الهوية Sumsub، فإن عدد التزييف العميق العالمي سيتضاعف أربع مرات من عام 2023 إلى عام 2024. ستشكل عمليات التزييف العميق 7% من إجمالي عمليات الاحتيال في عام 2024، بما في ذلك كل شيء بدءًا من انتحال الشخصية والاستيلاء على الحسابات وحتى حملات الهندسة الاجتماعية المتطورة.
لمكافحة هذه المشكلة، أصدرت Meta أداة جديدة، Meta Video Seal، مصممة لمكافحة التزييف العميق عن طريق إضافة علامات مائية غير محسوسة إلى مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. تم تصميم الأداة، التي تم إصدارها كمصدر مفتوح يوم الخميس، بحيث يتم دمجها بسهولة في البرامج الموجودة وتكمل أدوات العلامات المائية الأخرى التي تم إطلاقها مسبقًا من Meta، Watermark Anything وAudio Seal.
وقال بيير فرنانديز، عالم أبحاث الذكاء الاصطناعي في ميتا، في مقابلة: "لقد قمنا بتطوير Video Seal لتوفير حل أكثر فعالية للعلامات المائية للفيديو، وخاصة لاكتشاف مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي وحماية الأصالة".
على الرغم من أن Video Seal ليس أول تقنية مقترحة لوضع العلامات المائية على الفيديو، إلا أن SynthID من DeepMind وطرق العلامات المائية من Microsoft قد تم استخدامها أيضًا في السوق، لكن فرنانديز أشار إلى أن أدوات العلامات المائية الحالية بها عمومًا بعض أوجه القصور. وقال: "على الرغم من وجود أدوات أخرى لوضع العلامات المائية، إلا أنها لا تعمل بشكل جيد بعد ضغط الفيديو، وهو أمر شائع جدًا عند توزيع المحتوى على منصات التواصل الاجتماعي؛ كما تعمل بعض الأساليب أيضًا بكفاءة أقل ولا يمكن فتحها أو تكرارها؛ بالإضافة إلى ذلك، يتم استخدام العديد من الأساليب مشتقة من العلامة المائية للصورة، ولكن العلامة المائية للصورة ليست مناسبة للفيديو."
بالإضافة إلى وظيفة العلامة المائية، يمكن لـ Video Seal أيضًا تضمين معلومات مخفية في مقاطع الفيديو، والتي يمكن الكشف عنها لاحقًا لتتبع مصدر الفيديو. تدعي Meta أن Video Seal يمكنه مقاومة أساليب التحرير الشائعة بشكل فعال مثل التمويه والاقتصاص، بالإضافة إلى خوارزميات الضغط شائعة الاستخدام.
ومع ذلك، اعترف فرنانديز أيضًا بأن Video Seal له قيود معينة، خاصة المفاضلة بين إمكانية إدراك العلامة المائية ومقاومتها للتلاعب. ويشير إلى أن الضغط المفرط والتحرير المكثف يمكن أن يؤدي إلى تدمير العلامات المائية أو جعلها غير قابلة للاسترداد.
يتمثل التحدي الأكبر الذي تواجهه Meta في عدم وجود حوافز للمطورين والجهات الفاعلة في الصناعة لاستخدام Video Seal، خاصة أولئك الذين يستخدمون بالفعل حلولًا خاصة أخرى. ولتحقيق هذه الغاية، أطلقت Meta تصنيفًا عامًا يسمى Meta Omni Seal Bench لمقارنة أداء تقنيات العلامات المائية المختلفة، وستعقد ندوة حول تكنولوجيا العلامات المائية في مؤتمر الذكاء الاصطناعي الرئيسي لهذا العام ICLR.
وقال فرنانديز: "نأمل أن يتمكن المزيد والمزيد من الباحثين والمطورين في مجال الذكاء الاصطناعي من دمج شكل من أشكال تكنولوجيا العلامات المائية في عملهم، ونأمل أن نعمل مع الصناعة والأوساط الأكاديمية لتطوير هذا المجال بسرعة أكبر".
يوفر إصدار Meta Video Seal مفتوح المصدر سلاحًا جديدًا لمحاربة التزوير العميق، ولكن ما إذا كان يمكنه الحد بشكل فعال من انتشار المعلومات الكاذبة لا يزال يتطلب اختبار الزمن والجهود المشتركة للصناعة. وسيكون التقدم المستمر والتطبيق الواسع النطاق للتكنولوجيا هو المفتاح لحل هذه المشكلة.