كشفت دراسة جديدة أجراها مركز Tow للصحافة الرقمية بجامعة كولومبيا عن مشاكل خطيرة تتعلق بمصادر الأخبار في ChatGPT. اختبر الباحثون 200 استشهادًا لأخبار من 20 ناشرًا، ووجدوا أن ما يصل إلى 76.5% من استشهادات ChatGPT تحتوي على أخطاء أو أخطاء جزئية، ونادرًا ما اعترفت بمعلومات مفقودة. أثارت هذه الدراسة مخاوف بشأن موثوقية خدمات البحث في مجال الذكاء الاصطناعي وأثارت تساؤلات حول سلامة تطبيقات الذكاء الاصطناعي في مجال نشر الأخبار، وكان لاستنتاجاتها آثار تحذيرية مهمة لكل من وسائل الإعلام الإخبارية وشركات الذكاء الاصطناعي.
بحث جديد أجراه مركز تاو للصحافة الرقمية بجامعة كولومبيا يدق ناقوس الخطر بشأن خدمات البحث في مجال الذكاء الاصطناعي. تظهر الأبحاث أن ChatGPT يواجه مشكلات خطيرة تتعلق بالدقة عند الاستشهاد بمصادر الأخبار، حتى بالنسبة للناشرين الذين يعملون مباشرة مع OpenAI. أجرى فريق البحث اختبارات شاملة على 200 اقتباس إخباري من 20 ناشرًا مختلفًا، وكانت النتائج صادمة: في 153 حالة من هذه الحالات، كان لدى ChatGPT معلومات مصدر غير صحيحة أو غير صحيحة جزئيًا. والأمر الأكثر إثارة للقلق هو أن النظام نادراً ما يعترف بشكل استباقي بأن المعلومات مفقودة، واعترف في سبع محاولات فقط بأنه لم يتمكن من العثور على المصدر.
وأشار الباحثون إلى أنه من أجل الحفاظ على تجربة المستخدم، يفضل ChatGPT اختلاق الإجابات بدلاً من الاعتراف بنقص المعلومات. والأخطر من ذلك هو أن النظام يقدم هذه المصادر الزائفة بثقة مثيرة للقلق، ولا يظهر أي شك على الإطلاق. وحتى الناشرون المشهورون، مثل نيويورك بوست وذي أتلانتيك، الذين لديهم شراكات مباشرة مع أوبن إيه آي، ليسوا محصنين ضد هذه المشكلة. وفي بعض الحالات، يرتبط ChatGPT بمواقع الويب التي نسخت مقالات كاملة دون تصريح، بدلاً من المصدر الأصلي.
وعلق مات هونان، رئيس تحرير MIT Technology Review، على هذا قائلاً: "باعتبارنا ناشرين، هذا بالتأكيد ليس الوضع الذي نريد رؤيته، والعلاجات المتاحة في هذا الوقت محدودة للغاية."
لقد كانت شركة OpenAI حذرة نسبيًا في استجابتها لهذه النتائج المثيرة للقلق. وأكدت الشركة أن ChatGPT يخدم 250 مليون مستخدم كل أسبوع وقالت إنها تعمل مع الشركاء لتحسين دقة الاقتباس.
الاستنتاج النهائي للدراسة واضح: في الوقت الحالي، ليس لدى الناشرين أي ضمان بأن ChatGPT Search سيعرض المحتوى الخاص بهم بدقة، بغض النظر عما إذا كانت لديهم شراكة مع OpenAI أم لا. ولا شك أن هذا الاكتشاف سيعزز المزيد من المناقشة وتحسين موثوقية معلومات الذكاء الاصطناعي.
النتائج مثيرة للقلق وتسلط الضوء على أهمية التفكير النقدي والتحقق من الحقائق عند الاعتماد على تكنولوجيا الذكاء الاصطناعي للحصول على المعلومات. وفي المستقبل، يجب تعزيز الإشراف على نماذج الذكاء الاصطناعي وتحسينها لضمان دقة المعلومات التي تقدمها وموثوقيتها ولتجنب تضليل الجمهور.