يهدف متجر GPT الذي أطلقته OpenAI إلى توفير إصدارات مخصصة متنوعة من ChatGPT، ولكن يبدو أن آلية مراجعة المحتوى الخاصة به بها ثغرات. في الآونة الأخيرة، ظهر عدد كبير من روبوتات الدردشة المدعمة بالذكاء الاصطناعي والتي تنتهك سياسات الاستخدام في المتاجر، مما أثار مخاوف بشأن قدرات إدارة محتوى المنصة. ستحلل المقالة تحديات الإشراف على المحتوى التي تواجهها متاجر GPT، والأفكار الناتجة حول القضايا الأخلاقية مثل رفاق الذكاء الاصطناعي والاعتماد العاطفي.
قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في مؤتمر إن المتجر الجديد يبدو أنه يواجه مشكلات في إدارة المحتوى على الرغم من قواعد GPTStore التي تحظر ذلك. تم إطلاق متجر GPTStore الذي طال انتظاره أخيرًا، ومع ذلك، أدى البحث عن "صديقة" في السوق الجديدة إلى ظهور ما لا يقل عن ثمانية روبوتات دردشة رومانسية تعمل بالذكاء الاصطناعي، مما ينتهك سياسة استخدام OpenAI. على الرغم من أن السياسة تنص بوضوح على أنه غير مسموح بـ GPTs التي تروج للعلاقات الرومانسية، إلا أن OpenAI لم تستجب لمسألة المحتوى غير القانوني في المتجر الجديد. في السنوات الأخيرة، ومع ظهور منصات الذكاء الاصطناعي المصاحبة، جذبت الانتباه ظاهرة قيام المستخدمين بإنشاء اعتماد عاطفي مع رفاقهم من الذكاء الاصطناعي. بعد أكثر من شهرين من إطلاق OpenAI رسميًا لمتجر GPT، أنشأ المستخدمون أكثر من 3 ملايين نسخة مخصصة من روبوتات الدردشة ChatGPT.كشف التطور السريع لمتاجر GPT والتأخر في الإشراف على المحتوى عن التناقض بين تطور تكنولوجيا الذكاء الاصطناعي وبناء المعايير الأخلاقية. إن كيفية الإشراف بشكل فعال على محتوى الذكاء الاصطناعي ومنع استخدامه لبناء رفاق ذكاء اصطناعي غير صحيين يمثل تحديًا يجب على OpenAI والصناعة بأكملها مواجهته. وفي المستقبل، سيكون من الأهمية بمكان تعزيز الوسائل التقنية والمراجعة اليدوية، وتحسين القوانين واللوائح ذات الصلة، ووضع معايير أخلاقية سليمة للذكاء الاصطناعي.