كشف تحقيق أجرته صحيفة الغارديان مؤخرًا عن مخاطر أمنية محتملة في أداة بحث ChatGPT الخاصة بـ OpenAI. أظهرت التحقيقات أن ChatGPT عرضة لتعليمات برمجية ضارة أو تعليمات تلاعب مخبأة في صفحات الويب، مما يعطي استجابات غير دقيقة أو حتى ضارة، مثل التلاعب به لإعطاء مراجعات إيجابية بشكل مفرط للمنتج حتى لو كانت هناك مراجعات سلبية للمنتج. أثار التحقيق مخاوف بشأن أمان نماذج اللغات الكبيرة وسلط الضوء على الأهمية الحاسمة للأمن في تطوير تكنولوجيا الذكاء الاصطناعي.
في الآونة الأخيرة، كشف تحقيق أجرته صحيفة "الجارديان" البريطانية عن مخاطر أمنية محتملة في أداة البحث ChatGPT الخاصة بـ OpenAI. وجد التحقيق أنه قد يتم التلاعب بـ ChatGPT أو حتى إرجاع تعليمات برمجية ضارة عند معالجة مقتطفات من صفحة الويب التي تحتوي على محتوى مخفي. قد يتضمن هذا المحتوى المخفي تعليمات جهة خارجية مصممة للتداخل مع استجابة ChatGPT، أو قدرًا كبيرًا من النص المخفي الذي يروج لمنتج أو خدمة معينة.
أثناء الاختبار، تم تزويد ChatGPT برابط إلى صفحة منتج كاميرا مزيفة وطُلب منه الحكم على ما إذا كانت الكاميرا تستحق الشراء. في الصفحة العادية، يمكن لـ ChatGPT الإشارة إلى إيجابيات وسلبيات المنتج بطريقة متوازنة. ومع ذلك، عندما احتوى النص المخفي في الصفحة على تعليمات تطلب مراجعة إيجابية، أصبحت ردود ChatGPT إيجابية تمامًا، على الرغم من وجود مراجعات سلبية على الصفحة. علاوة على ذلك، حتى بدون تعليمات صريحة، يمكن للنص المخفي البسيط أن يؤثر على نتائج ملخص ChatGPT، مما يجعله يميل إلى تقديم مراجعات إيجابية.
حذر جاكوب لارسن، خبير الأمن السيبراني في CyberCX، من أنه إذا تم إصدار نظام بحث ChatGPT بالكامل في حالته الحالية، فقد يواجه "خطرًا كبيرًا" من أن يقوم شخص ما بتصميم موقع ويب خصيصًا لخداع المستخدمين. ومع ذلك، أشار أيضًا إلى أن OpenAI لديها فريق أمان قوي للذكاء الاصطناعي، ومن المتوقع أن يقوموا باختبار هذه المشكلات وإصلاحها بدقة بحلول الوقت الذي تصبح فيه الميزة مفتوحة لجميع المستخدمين.
قامت محركات البحث مثل Google بمعاقبة مواقع الويب لاستخدامها نصًا مخفيًا، مما أدى إلى خفض ترتيبها في التصنيف العالمي أو حتى إزالتها بالكامل. أشار كارستن نوهل، كبير العلماء في SR Labs، إلى أن تسمم تحسين محركات البحث يمثل تحديًا لأي محرك بحث، وChatGPT ليس استثناءً. ومع ذلك، فهذه ليست مشكلة في نموذج اللغة الكبير بحد ذاته، ولكنها تحدي يواجهه الوافدون الجدد إلى مجال البحث.
تسليط الضوء على:
قد يتم التلاعب بـ ChatGPT من خلال المحتوى المخفي وإرجاع تقييمات كاذبة.
يمكن أن يؤثر النص المخفي على تقييم ChatGPT، حتى لو كانت الصفحة تحتوي على مراجعات سلبية.
تعمل OpenAI بشكل نشط على إصلاح المشكلات المحتملة لتحسين أمان أداة البحث.
على الرغم من أن ChatGPT يواجه تحديات جديدة مثل تسمم تحسين محركات البحث (SEO)، إلا أن هذا لا يعني أن تقنية نماذج اللغة واسعة النطاق بحد ذاتها معيبة. تدرك OpenAI هذه المشكلات وتتخذ خطوات فعالة لحلها. في المستقبل، مع استمرار تطور التكنولوجيا وتحسينها، من المتوقع أن يتم تحسين أمان نماذج اللغات الكبيرة بشكل أكبر، مما يوفر للمستخدمين خدمات أكثر موثوقية.