في الآونة الأخيرة، أصدرت شركة Shenzhen Reecho Technology Co., Ltd. بيانًا ردًا على الحادث الذي تم فيه استخدام منصة Reecho النموذجية الكبيرة لدبلجة الذكاء الاصطناعي المطورة بشكل مستقل لإنتاج صوت وفيديو مزيفين. وفي هذه الحادثة، استخدم المشتبه به Reecho لاستنساخ صوت الضحية Lu ونشر معلومات كاذبة. سيقدم لك محرر Downcodes شرحًا تفصيليًا للحادثة والردود ذات الصلة.
أصدرت شركة Shenzhen Reecho Technology Co., Ltd. مؤخرًا بيانًا يؤكد أن الجزء الصوتي من المواد الصوتية والمرئية التي تم تداولها في 16 سبتمبر قد تم استنساخه من قبل المشتبه به باستخدام منصة النموذج الكبير للدبلجة Reecho AI المطورة بشكل مستقل. يأتي الصوت من مقطع البث المباشر الخاص بـ Lu.
أطلقت الشركة آلية تدقيق داخلي لتعزيز الرقابة الأمنية على مصادقة هوية المستخدم وتوليد الصوت لضمان التطبيق القانوني والمتوافق للتكنولوجيا.
قال Reecho Ruisheng إنه كفريق مبتدئ تم إنشاؤه منذ أقل من عام، فإن شركة Yanyu Technology ملتزمة باستكشاف التقنيات المتطورة للذكاء الاصطناعي الصوتي والمجسم. باعتبارها أول منصة لتقنية التوليف الصوتي والدبلجة التي تعمل بالذكاء الاصطناعي للجمهور، تهدف Reecho إلى تحسين كفاءة وملاءمة إنتاج المحتوى الإبداعي من خلال التكنولوجيا المتطورة ذاتية التطوير.
وفي الوقت نفسه، تلقى فرع التكنولوجيا الفائقة التابع لمكتب الأمن العام لبلدية خفي إنذارًا في 20 سبتمبر، وبدأ تحقيقًا في الصوت والفيديو الكاذب الذي تورط فيه لو. وبعد التحقيق، ألقت الشرطة القبض على المشتبه به وانغ البالغ من العمر 25 عامًا مساء يوم 22 سبتمبر، ووجدت أنه استخدم أدوات الذكاء الاصطناعي لتزوير الصوت وتوليف مقاطع الفيديو لنشرها، مما تسبب في شائعات واسعة النطاق. وقد اتخذ وانغ إجراءات جنائية إلزامية وفقا للقانون، ولا تزال القضية قيد مزيد من التحقيق.
كشفت هذه الحادثة عن المخاطر الأمنية الموجودة في عملية تطبيق تقنية الذكاء الاصطناعي، كما ذكّرت شركات الذكاء الاصطناعي بتعزيز الحماية الأمنية التقنية والمعايير الأخلاقية. يُظهر رد شركة Ruiyu Technology أنها على علم بالمشكلة وتتخذ إجراءات فعالة لتحسينها. ومن المأمول أن تتطور تكنولوجيا الذكاء الاصطناعي في بيئة أكثر أمانًا وامتثالًا في المستقبل وتخلق قيمة أكبر للمجتمع.