في الآونة الأخيرة، تم استخدام تقنية الذكاء الاصطناعي لتغيير الوجه في البث المباشر لجلب البضائع، الأمر الذي اجتذب اهتمامًا عامًا واسع النطاق. خدع حساب يقلد البث المباشر للدكتور Zhang Wenhong لبيع البضائع الكثير من الناس، وخاصة المشاهدين الأكبر سنا الذين لم يكونوا على دراية بتكنولوجيا الذكاء الاصطناعي. وبعد الكشف عن الحادث، رد Zhang Wenhong بنفسه وقال إنه اشتكى إلى المنصة عدة مرات. يسلط هذا الحادث الضوء على مخاطر إساءة استخدام تكنولوجيا الذكاء الاصطناعي وأوجه القصور التي يعاني منها الجمهور في تمييز المعلومات.
وفي الآونة الأخيرة، حظي مقطع فيديو باهتمام واسع النطاق على الإنترنت، وظهر في الفيديو حساب يقلد Zhang Wenhong في بث مباشر لبيع لوح البروتين.
شكك العديد من مستخدمي الإنترنت في هذا الأمر، "هل يقوم Zhang Wenhong بإحضار البضائع؟" والأمر الأكثر إثارة للقلق هو أن بعض المشاهدين الأكبر سناً مقتنعون بهذا الفيديو وقد قاموا بتقديم الطلبات وإعادة توجيه المعلومات في المجموعات الاجتماعية. وبعد التحقق من قبل الصحفيين، تم اكتشاف أن Zhang Wenhong في الفيديو لم يكن شخصًا حقيقيًا، بل كان تزويرًا عميقًا تم تصنيعه من خلال تقنية الذكاء الاصطناعي.
ردًا على ذلك، قال Zhang Wenhong أن هناك أكثر من حساب مبيعات واحد وهو يتغير باستمرار، وقد اشتكى إلى المنصة عدة مرات. لقد استمر هذا لبضعة أسابيع وتم تقديم شكوى في البداية. خاصة أن بعض كبار السن الذين ليسوا على دراية بالذكاء الاصطناعي سوف يصدقون ذلك بسهولة.
مع تطور تكنولوجيا الذكاء الاصطناعي، يتغير شكل البث المباشر مع البضائع باستمرار. في الوقت الحاضر، يمكن لتكنولوجيا الذكاء الاصطناعي توليد وجوه وأصوات واقعية للغاية، مما يسمح لبعض المجرمين باستخدام هذه التقنيات لارتكاب عمليات احتيال. في الآونة الأخيرة، تم تصنيع صوت أحد رواد الأعمال المشاهير بواسطة تقنية الذكاء الاصطناعي وانتشر عبر الإنترنت، مما أحدث تأثيرًا كبيرًا. كان أداء Zhang Wenhong، الذي تم تصنيعه بواسطة الذكاء الاصطناعي هذه المرة، واقعيًا للغاية أثناء البث المباشر. على الرغم من أنه لا تزال هناك عيوب على المستوى الفني، إلا أنه لا يزال يخدع الكثير من الناس.
وقد أثارت هذه الحادثة قلقاً عاماً بشأن صحة المعلومات، وخاصة بين كبار السن، الذين يعتبر وعيهم بالتكنولوجيات الجديدة متأخراً نسبياً ومعرضاً للخداع. ومع ذلك، قد يكون أي شخص، وليس كبار السن فقط، معرضًا لخطر التضليل من خلال المعلومات المزيفة التي يعتمدها الذكاء الاصطناعي. لا يمكننا الاعتماد بشكل كامل على الحكم الفردي لتحديد هذه المعلومات الخاطئة، لذا فإن الاحتياطات الفنية ذات الصلة ذات أهمية خاصة.
وأثناء البث المباشر، لم يوضح الحساب الذي يقلد Zhang Wenhong هويته بشكل واضح ولم يبث مباشرة إلا عند منتصف الليل، وتظهر هذه السرية جهود المنصة وفعاليتها في إدارة فوضى الذكاء الاصطناعي. على الرغم من أن تطور تكنولوجيا الذكاء الاصطناعي قد جلب لنا الراحة، إلا أنه جلب أيضًا تحديات جديدة للمجتمع. ومن أجل التعامل مع المزيد من عمليات التزييف التي قد تحدث في المستقبل، فمن الملح إنشاء آلية أكثر اكتمالا لمنع المخاطر.
أبرز النقاط:
تسبب الذكاء الاصطناعي المُركب Zhang Wenhong في مناقشات ساخنة أثناء البث المباشر، وأساء بعض مستخدمي الإنترنت فهم هويته.
يتخلف وعي الجمهور بالتقنيات الجديدة ويتأثرون بسهولة بالمعلومات الكاذبة.
ومن الأهمية بمكان تعزيز تدابير الوقاية التقنية وآليات مراقبة المعلومات وتحسين قدرات الجمهور على تحديد الهوية.
لا يمكن تجاهل المخاطر التي تجلبها تكنولوجيا الذكاء الاصطناعي التي تغير وجه العالم، وتحتاج المنصات إلى تعزيز الإشراف وتحسين قدرات الجمهور على التعرف على المعلومات من أجل التعامل بفعالية مع التحديات التي تفرضها تكنولوجيا الذكاء الاصطناعي. ولن نتمكن من حماية حقوقنا ومصالحنا بشكل أفضل وبناء بيئة شبكية أكثر أمانًا إلا من خلال تعزيز تعليم محو الأمية الرقمية على المستوى الوطني ونشر المعرفة الوقائية.