مع انفجار المحتوى الناتج عن الذكاء الاصطناعي، تواجه منصات وسائل التواصل الاجتماعي تحديا غير مسبوق: كيف يمكن التأكد من قدرة المستخدمين على التمييز بين المعلومات الحقيقية والكاذبة؟ نشر رئيس Instagram Adam Mosseri مؤخرًا سلسلة من المنشورات على Threads يعبر فيها عن مخاوفه بشأن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ويوضح استراتيجيات Instagram وMeta للتعامل مع هذا التحدي. وشدد على أن المستخدمين بحاجة إلى أن يكونوا أكثر يقظة وأن يتعلموا كيفية تحديد المحتوى الناتج عن الذكاء الاصطناعي، ودعا المنصات إلى تعزيز الإشراف على المحتوى وتحسين شفافية ومصداقية المعلومات.
وفي سلسلة حديثة من منشورات Threads، شدد رئيس إنستغرام، آدم موسيري، على حاجة مستخدمي وسائل التواصل الاجتماعي إلى أن يكونوا أكثر يقظة في مواجهة الكميات المتزايدة من المحتوى الناتج عن الذكاء الاصطناعي.
وأشار إلى أن الصور والمعلومات التي يراها المستخدمون عبر الإنترنت قد لا تكون حقيقية، لأن تقنية الذكاء الاصطناعي يمكنها بالفعل إنشاء محتوى مشابه جدًا للواقع. ولمساعدة المستخدمين على الحكم بشكل أفضل على صحة المعلومات، ذكر موسيري أنه يجب على المستخدمين النظر في مصدر المحتوى، كما تتحمل منصات التواصل الاجتماعي مسؤولية دعم ذلك.
وقال موسيري إن دور منصات التواصل الاجتماعي هو تصنيف محتوى الذكاء الاصطناعي الذي تم إنشاؤه قدر الإمكان لمساعدة المستخدمين على التعرف عليه. ومع ذلك، فقد اعترف أيضًا بأنه قد يتم تفويت بعض المحتوى ولا يمكن تحديده في الوقت المناسب. ولتحقيق هذه الغاية، أكد على أن المنصات تحتاج أيضًا إلى توفير معلومات خلفية للمستخدم حول المحتوى المشترك حتى يتمكن المستخدمون من تحديد مدى ثقتهم في المحتوى بشكل أفضل. وتعكس آراؤه مخاوف عميقة بشأن مصداقية رسائل وسائل التواصل الاجتماعي.
في هذه المرحلة، لم تقدم Meta (الشركة الأم لـ Instagram) معلومات سياقية كافية لمساعدة المستخدمين على الحكم على صحة المحتوى. ومع ذلك، ألمحت الشركة مؤخرًا إلى أنها ربما تجري تغييرات مهمة على قواعد المحتوى الخاصة بها. ومن المتوقع أن يؤدي هذا التغيير إلى زيادة ثقة المستخدمين في المعلومات ومساعدتهم على مواجهة التحديات التي تفرضها تكنولوجيا الذكاء الاصطناعي بشكل أفضل.
ذكر موسيري أنه يجب على المستخدمين التأكد مما إذا كانت المعلومات التي يقدمها برنامج الدردشة الآلي موثوقة قبل الوثوق بمحرك بحث يعتمد على الذكاء الاصطناعي. وهذا يشبه التحقق من مصدر بيان أو صورة منشورة، فقط المعلومات الواردة من الحسابات ذات السمعة الطيبة هي الأكثر جدارة بالثقة.
إن النهج المتبع في الإشراف على المحتوى الذي يصفه موسري هو أقرب إلى أنظمة الإشراف التي يحركها المستخدم، مثل ملاحظات المجتمع على تويتر ومرشحات المحتوى على يوتيوب. في حين أنه من غير الواضح ما إذا كانت Meta ستقدم ميزات مماثلة، نظرًا لخبرة الشركة السابقة في الاقتراض من منصات أخرى، فإن سياسات الإشراف على المحتوى المستقبلية تستحق الاهتمام.
بشكل عام، في مواجهة التحديات التي يطرحها المحتوى الناتج عن الذكاء الاصطناعي، يستكشف Instagram وMeta بنشاط الحلول، الأمر الذي لا يتطلب جهود المنصة نفسها فحسب، بل يتطلب أيضًا من المستخدمين تحسين قدراتهم على التمييز والحفاظ بشكل مشترك على مصداقية وأمن المعلومات عبر الإنترنت. إن كيفية تطور نموذج الإشراف على المحتوى المستقبلي تستحق اهتمامنا المستمر.