تستخدم منظمة MCN برامج الذكاء الاصطناعي لإنتاج الآلاف من الأخبار المزيفة يوميًا، مما يتسبب في انتشار كمية كبيرة من المعلومات الكاذبة بشكل فيروسي على الإنترنت؛ ويعتمد حساب منصة جديد على "إنشاء" الذكاء الاصطناعي لتحديث أكثر من عشرة كتب إلكترونية كل يوم، لكن الكتابة غير منطقية وخطابية. تم سحب الأوراق الطبية الفارغة بسبب استخدام الرسوم التوضيحية الكاذبة التي أنشأها الذكاء الاصطناعي... في الوقت الحاضر، أصبح من الشائع أكثر فأكثر أن يقوم الذكاء الاصطناعي بإنشاء نص أو تزويره أو التلاعب به. والصور والصوت والفيديو وكمية كبيرة من "المعلومات الرديئة التي يصعب التمييز بين الصواب والخطأ" القمامة، مما أثار مناقشات حول "تلوث الذكاء الاصطناعي".
منذ العام الماضي، أطلق الذكاء الاصطناعي التوليدي موجة تلو الأخرى من الجنون في جميع أنحاء العالم، وقد استفادت تطبيقاته التخريبية من العديد من الصناعات ومستخدمي الإنترنت. ومع ذلك، فإن العملة المعدنية لها وجهان، وهناك أيضًا بعض المشكلات السلبية المصاحبة للذكاء الاصطناعي التوليدي الذي أصبح أكثر وضوحًا.
أظهر تقرير بحثي صدر في أبريل من هذا العام من قبل مركز أبحاث وسائل الإعلام الجديدة التابع لكلية الصحافة والاتصالات بجامعة تسينغهوا أن عدد الشائعات المتعلقة بالاقتصاد والمشاريع المتعلقة بالذكاء الاصطناعي قد زاد بنسبة 99.91٪ في العام الماضي. وذكرت وكالة التحقيقات الأمريكية "نيوز جارد" أن عدد المواقع التي تولد مقالات كاذبة ارتفع بنسبة تزيد عن 1000% منذ مايو 2023، بـ 15 لغة. ويعتقد بعض الخبراء أن ناتج "نفايات المعلومات" التي ينتجها الذكاء الاصطناعي ضخم، ويصعب تحديده، كما أن فحصه مكلف.
إن الضرر الناجم عن "تلوث الذكاء الاصطناعي" واضح. "تلوث الذكاء الاصطناعي" سوف يتسبب في وقوع مستخدمي الإنترنت في الهلوسة المعرفية. على منصة معينة لتبادل المعرفة، يقوم الذكاء الاصطناعي الذي يبدو أنه "يعرف علم الفلك في الأعلى والجغرافيا في الأسفل" بإنشاء محتوى أجوف وصريح. في غياب التفكير النقدي، فإن "نظام المعرفة" الذي ينسجه الذكاء الاصطناعي بسرعة قد يؤدي، من ناحية، إلى إضعاف قدرة الناس على التفكير النقدي، ومن ناحية أخرى، قد يتسبب أيضًا في وقوع الناس في الأوهام المعرفية، مما يسبب ارتباكًا إدراكيًا عامًا وبالتالي تشويه الجمهور. إن الفهم الجماعي للواقع والإجماع العلمي يؤدي في نهاية المطاف إلى "قيادة" الناس بواسطة الذكاء الاصطناعي. خاصة بالنسبة لجيل الشباب الذي نشأ مع الإنترنت، بمجرد أن يتشكل إدراكهم من خلال "نفايات المعلومات"، فإن العواقب ستكون كارثية.
"تلوث الذكاء الاصطناعي" سيأتي بنتائج عكسية على تطور صناعة الذكاء الاصطناعي. كما نعلم جميعًا، تعتمد دقة نماذج الذكاء الاصطناعي إلى حد كبير على جودة بيانات التدريب. إذا "عاد تدفق" المحتوى الخاطئ والبريد العشوائي الناتج عن الذكاء الاصطناعي إلى الإنترنت وأصبح بيانات جديدة لتدريب نماذج الذكاء الاصطناعي، فإن نموذج دورة "القمامة في القمامة خارجة" قد يتسبب في انخفاض جودة مخرجات الذكاء الاصطناعي، وهو أمر غير مواتٍ. لتطوير صناعة الذكاء الاصطناعي بأكملها. على سبيل المثال، استخدمت إحدى شركات الإنترنت تحسين محركات البحث لتحديد أولويات المقالات التي ينشئها الذكاء الاصطناعي في نتائج البحث، مما يجعل من الصعب على المستخدمين استرداد معلومات عالية الجودة وإثارة انتقادات واسعة النطاق من المستخدمين.
وبالإضافة إلى ذلك، فإن "تلوث الذكاء الاصطناعي" يشمل أيضًا العديد من القضايا مثل القانون والأخلاق وحتى الاستقرار الاجتماعي. قد ينتهك المحتوى الكاذب الذي ينتجه الذكاء الاصطناعي حقوق الملكية الفكرية، ويهز قواعد حقوق الطبع والنشر، وينتهك الخصوصية الشخصية، ويتسرب معلومات الهوية، وينطوي على مخاطر إساءة الاستخدام، مما قد يؤدي إلى تعطيل الرأي العام والتلاعب به، كما أن الأفعال غير القانونية التي ينتجها الذكاء الاصطناعي ستزيد من الحوكمة الاجتماعية صعب.
ويمكن ملاحظة أنه من الضروري تصحيح "تلوث الذكاء الاصطناعي" للإنترنت. وفقًا لـ "التقرير الإحصائي الرابع والخمسين حول تطور الإنترنت في الصين" الصادر عن مركز معلومات الإنترنت الصيني، اعتبارًا من يونيو من هذا العام، بلغ عدد مستخدمي الإنترنت في بلدي ما يقرب من 1.1 مليار. يبني الإنترنت موطنًا جديدًا للوجود البشري، وأصبح جيل الشباب "السكان الأصليين" للإنترنت، ويمكن القول إن تصحيح "تلوث الذكاء الاصطناعي" هو إجراء ضروري لإنشاء فضاء إلكتروني واضح وضمان حياة جيدة له كل مستخدمى الانترنت.
أولاً، ينبغي تعزيز حوكمة المصدر لآليات التعلم وتوليد الذكاء الاصطناعي. توضيح مسؤولية منصة الذكاء الاصطناعي في التحكم في المواد المصدر والإشراف على المحتوى الذي تم إنشاؤه، وتحسين قواعد إنشاء محتوى الذكاء الاصطناعي، وإجبار المحتوى الناتج عن الذكاء الاصطناعي على تمييزه بتسميات بارزة، وتحسين الشفافية وقابلية الشرح لتقنية الذكاء الاصطناعي.
ثانيا، تعزيز الفحص والإشراف على المحتوى الناتج عن الذكاء الاصطناعي. تحتاج الإدارات والمؤسسات ذات الصلة إلى تركيز إشرافها على فحص ومراجعة المحتوى الناتج عن الذكاء الاصطناعي، ويمكنها تطوير خوارزميات المراجعة ذات الصلة، وتوحيد تدفق ونشر المحتوى الناتج في مجال الرأي العام، واكتشاف وحذف المحتوى المنخفض الجودة أو منخفض الجودة على الفور. محتوى كاذب.
ثالثا، تحسين قدرة المستخدمين على تحديد المحتوى الناتج عن الذكاء الاصطناعي. يجب على مستخدمي الإنترنت التعامل مع معلومات الإنترنت بعقلانية، وتعزيز الوعي الوقائي وقدرات تحديد الهوية، ويمكنهم استخدام أدوات البحث العكسي للتحقق من معلومات المصدر والمؤلف للمحتوى، وتحليل اللغة والخصائص الهيكلية للمحتوى، وذلك لتحديد "المزيف" والمزيف. "أدنى".
إن الفضاء الإلكتروني ليس "مكبًا للقمامة" مليئًا بالقمامة. تتطلب مكافحة "تلوث الذكاء الاصطناعي" وإنشاء شبكة منزلية نظيفة وآمنة إدارة مشتركة لجميع الإدارات ومشاركة المجتمع بأكمله.