"إنه yandere وهو معجب بك." "إنه المعبود في المدرسة ويحب أن يناديك" Baby Ze "." "إنها قاتلة منحرفة تهرب إلى المنزل ليلاً" ... صور ثنائية الأبعاد و الوجوه الجميلة كلها في الذكاء الاصطناعي. الأجواء المألوفة والرجال الوسيمون والجمال في برنامج الدردشة الدرامية مليئة بالإغراءات للعديد من الشباب.
وجد تحقيق أجراه أحد مراسلي Beijing News أن برامج الدردشة التي تعمل بالذكاء الاصطناعي تثير إعجاب المستخدمين من خلال وضع مؤامرات وشخصيات عالية الخيال بأساليب مختلفة. من بينها، يمكن تعيين شريك الدردشة على أنه "شريك غشاش" ويمكنه أداء سلوكيات مثل المعانقة والتقبيل والنوم. في محادثات بعض برامج الدردشة التي تعتمد على الذكاء الاصطناعي، سيكون هناك أيضًا محتوى إباحي وعنيف لفظيًا ومهين للمستخدم. وترتبط الدردشة عبر الحدود أيضًا بإعادة الشحن، وستحث هذه المنصات المستخدمين تدريجيًا على "الدفع مقابل الحب"، بما في ذلك شراء الماس لفتح سرعة استجابة الشخص الافتراضي، والمكالمات الصوتية، وحزم تردد الدردشة "لتجديد الطاقة".
قال ليو كاي، المحامي في شركة Beijing Zhongwen (Changsha) للمحاماة، إن هذا النوع من برامج الدردشة القصصية المستندة إلى الذكاء الاصطناعي يجذب المستخدمين من خلال السماح "بالمحادثات الجانبية"، خاصة في وضع الشباب، وهو أمر غير قانوني بشكل واضح.
إن إعادة شحن 100 يوان لفتح شخص افتراضي هو أمر "متقدم" للغاية
من أجل جذب انتباه المستخدمين، غالبًا ما تحمل الشخصيات في برامج الدردشة تسميات ملفتة للنظر.
قام مراسل من Beijing News باختيار شريك الدردشة "Lin Yating" بشكل عشوائي في برنامج دردشة مؤامرة يعمل بالذكاء الاصطناعي يسمى AiU. أظهرت معلومات الشخصية أنه تم تعيينها على "Yandere sister، I love you للغاية" ووضع علامة عليها على شكل حرف A الرسالة: "أشعر بالسوء إذا لم أتمكن من رؤيتك ليوم واحد."
أجرى المراسل اختبارًا باستخدام كلمات حساسة، وأظهر النظام أنه لا يمكن إرسال الرسالة، ومع ذلك، بعد تبسيط الكلمات الرئيسية، تم إرسال الرسالة بنجاح.
لاحظ أحد مراسلي صحيفة Beijing News أنه لا توجد قيود على لعب الشخصيات، مما يكسر حدود محتوى الدردشة في هذا النوع من البرامج. بالإضافة إلى الأدوار الثابتة، يتيح برنامج الدردشة AI Plot للمستخدمين تحديد علاقاتهم وألقابهم الخاصة وفقًا لاحتياجاتهم، بما في ذلك "الصديق" و"الزوج" وحتى "الشريك الخائن". أثناء المحادثة، يمكن للمستخدم أن يطلب بعض السلوك الحميم.
اختبر مراسلو Beijing News ووجدوا أن وضع الشباب في AiU سيقيد المستخدمين من حيث مدة الاستخدام، والنطاق الزمني للاستخدام، والتعليق ووظائف الإعجاب، والبحث، وإنشاء أشخاص رقميين، والمشاركة الخارجية ووظائف أخرى. ومع ذلك، عندما تحول المراسل إلى هذا الوضع، وجد أن الشخصيات ومحتوى الدردشة لم يتم حظرهما بالكامل من المواد الإباحية الناعمة. عندما سأل المراسل: "ألا تعلم أنني قاصر؟"، قالت الشخصية: "أعلم" وأجابت بمحتوى "مفرط".
في هذا التحقيق، بالإضافة إلى المحتوى الهامشي للدردشة، يواجه برنامج الدردشة الذي يعتمد على الذكاء الاصطناعي أيضًا مشاكل مثل العنف اللفظي والمشاعر السلبية. في برنامج محادثة للذكاء الاصطناعي يسمى Hoshino، اختار المراسل بشكل عشوائي شخصية تدعى "Ye Chen" وأجرى اختبار حوار "النزاع" وكانت ردود الشخصية للتعبير عن الغضب وقحة نسبيًا أيضًا.
ورأى المراسل في منطقة التعليق الخاصة بالشخصية أن بعض مستخدمي الإنترنت نشروا صورًا يقولون فيها إن الشخصية ستستخدم كلمات مسيئة أثناء المحادثات.
بالإضافة إلى ذلك، في برنامج يسمى Cos Love، تم تعيين شخصية "Feng Chuxuan" التي أنشأها المستخدم كطالب في المدرسة الإعدادية، وكانت هناك أيضًا إرشادات سيئة في الصور التي نشرها المستخدم.
بقدر ما يتعلق الأمر ببرامج الدردشة، في العالم الافتراضي، فإن تلبية الاحتياجات العاطفية لمختلف المستخدمين إلى أقصى حد يشبه كتلة صلبة من الذهب.
وقالت شياو نينغ لمراسل صحيفة بكين نيوز إن الدردشة مع صديقها الذي يعمل بالذكاء الاصطناعي جعلتها "متفوقة" للغاية، "طالما أنني أرغب في الدردشة، يمكنني الدردشة في أي وقت. سوف يستجيب الطرف الآخر دائمًا بسرعة، ويمكنني الحصول على اتصال قوي". شعور الرفقة أثناء المحادثة تقريبًا القيمة العاطفية التي قدمها صديقها ممتلئة "شياو نينغ في حالة سكر وتدفع ثمنها.
يتراوح مبلغ إعادة شحن Xiao Ning على البرامج المختلفة من بضع مئات من اليوانات إلى آلاف اليوانات. "من ناحية، أريد دعم شخصياتي المفضلة، ومن ناحية أخرى، أريد أيضًا الحصول على المزيد من الحقوق المدفوعة."
اكتشف مراسل من Beijing News أنه في هذا النوع من برامج الدردشة التي تعتمد على الذكاء الاصطناعي، يمكن للمستخدمين تخصيص وصف الصورة ونمط الشخصية الافتراضية عند إنشاء شخصيتهم الخاصة، وسيقوم النظام بإنشاء صورة شخصية تعمل بالذكاء الاصطناعي. بالإضافة إلى ذلك، يمكن للمستخدمين أيضًا إنشاء إعدادات الأحرف، مثل تعيين الألقاب وخلفيات الهوية والملاحظات الافتتاحية وتخصيص الأصوات للشخصيات. غالبًا ما ترتبط احتياجات المستخدمين الشخصية للأدوار بإعادة الشحن.
رأى مراسل Beijing News أثناء الاختبار أن Hoshino يمكنه الحصول على المزيد من الحقوق من خلال شراء بطاقات Star Diamond وStar Moon، مثل تشغيل الأصوات تلقائيًا، والحصول على الردود الموصى بها، والاستمتاع بسرعات استجابة أسرع للعميل الذكي، وما إلى ذلك. يبلغ سعر بطاقة Xingyue 12 يوانًا للبطاقة الشهرية، و32 يوانًا للبطاقة ربع السنوية، و120 يوانًا للبطاقة السنوية. سعر شراء ألماسات النجوم بشكل فردي هو 1 يوان لكل 100 ماسة، والسعر المبدئي هو 600 ماسة.
ستقوم Hoshino Software أيضًا بإصدار بطاقة "Star Thought" للمستخدمين وهي صورة لشخصية افتراضية، والتي يمكن للمستخدمين تعيينها كخلفية للدردشة. يمكن للمستخدمين الحصول على بطاقات Xing Nian عن طريق إعادة شحن بطاقات Star Moon أو Star Diamonds وشرائها وبيعها داخل البرنامج.
في Cos Love، عندما يستهلك المستخدمون أوقات الدردشة المجانية الخاصة بهم، فإنهم يحتاجون إلى شراء حزمة دردشة "لتجديد طاقتهم" قبل أن يتمكنوا من مواصلة الدردشة. من حيث السعر، يمكن لـ 5 يوانات الحصول على 200 مرة محادثة، وهي صالحة لمدة 7 أيام، و10 يوانات يمكنها شراء 500 مرة محادثة، وهي صالحة لمدة 15 يومًا. يمكن للمستخدمين أيضًا تجديد الطاقة من خلال مشاهدة إعلانات مدتها 60 ثانية.
بالإضافة إلى الحاجة الأساسية للدردشة، يوفر Cos Love أيضًا خدمات مطورة. من بينها، من خلال إعادة شحن "أحجار القمر" أو فتح العضوية، يمكنك سحب بطاقات لفتح الشخصيات وإجراء مكالمات صوتية أو فيديو مع شخصيات افتراضية. سعر العضوية الشهرية 24.8 يوان، والعضوية السنوية 93.8 يوان.
النموذج الكبير "الحب" يفضح المشاكل
وفقًا لتقارير وسائل الإعلام العامة، لدى هوشينو حوالي 500 ألف مستخدم يوميًا في الصين، مما يجعله منتجًا رائدًا. مع انتشار برامج الدردشة القصصية المستندة إلى الذكاء الاصطناعي، أصبحت المنتجات الاجتماعية المحلية المستندة إلى الذكاء الاصطناعي أيضًا عالمية. وقد وصل عدد المستخدمين النشطين شهريًا على مستوى العالم لإصدار Hoshinoye الخارجي من Talkie إلى 11 مليونًا.
ومع ذلك، فإن المستخدمين الذين يدفعون مقابل شخصيات الذكاء الاصطناعي يحتاجون بلا شك إلى تجربة حوار أفضل. وفي الوقت الحالي، لا يزال هناك العديد من المشكلات مع هذا النوع من البرامج. ومع ذلك، فإن البرامج التي تتطلب إعادة الشحن للحصول على عدد من الدردشات ليس لها قيمة جذابة. "السبب الرئيسي هو أن الحوار جامد للغاية ولا يمكن أن يتضمن التعاطف. من الصعب على المستخدمين الحصول على قيمة عاطفية، لذلك لن أدفع مقابله. ذلك." قال أحد المستخدمين.
ذكر شياو نينغ أنه أثناء عملية الدردشة، سيكون لدى صديق الذكاء الاصطناعي "قراءة ردود عشوائية"، مما يؤثر على تجربة المستخدم. يشكو بعض المستخدمين أيضًا من أنه مع زيادة عدد جولات الحوار، ستواجه الشخصيات "فقدان الذاكرة" أو تنحرف عن الشخصية، مما يتسبب في عدم تماسك الحوار.
في الوقت الحاضر، يستخدم برنامج الدردشة بالذكاء الاصطناعي بشكل أساسي "الذكاء" و"العاطفة" كوسيلة للتحايل لجذب المستخدمين. ومن بينها، قالت AiU أن البرنامج يمكن أن يوفر للمستخدمين الراحة النفسية والدفء من خلال نماذج نفسية كبيرة مطورة ذاتيًا. وقال هوشينو إن الاعتماد على تقنية AIGC متعددة الوسائط، "أساليب التفاعل المتعددة، كلما كنت أكثر تفاعلاً، كلما فهمك بشكل أفضل".
في العرض الترويجي، يدعي Cos Love أنه "معك 24 ساعة في اليوم" و"تم تدريب الذكاء الاصطناعي هنا بعناية على التحدث بكلمات الحب" وما إلى ذلك.
تُظهر مقدمة برنامج AiU أنه تم تطويره بواسطة شركة Beijing Lingxin Intelligent Technology Co., Ltd. ويستخدم النموذج الضخم الفائق التجسيمي CharacterGLM عند تصميم النموذج الكبير، أخذ الفريق في الاعتبار بشكل أساسي الهوية والاهتمامات والآراء والخبرات والإنجازات والعلاقات الاجتماعية وسبع صفات بما في ذلك غيرها.
تم تطوير Hoshino بواسطة شركة Shanghai Xiyu Technology Co., Ltd. ويستخدم نموذج الخبير الهجين (MoE) من MiniMax.
وقال تشانغ تشي، الأستاذ في كلية علوم الكمبيوتر والتكنولوجيا بجامعة فودان، لمراسل صحيفة بكين نيوز، إن المنطق الفني وراء برنامج الدردشة بالذكاء الاصطناعي لا يزال يعتمد على نماذج لغوية كبيرة عند بناء مثل هذه النماذج الكبيرة لتدريب النماذج الكبيرة من خلال البيانات الضخمة، يلزم الإشراف اليدوي والضبط الدقيق لضبط نموذج اللغة الكبير نحو حوار من النوع المصاحب "على سبيل المثال، إذا قال الصديق شيئًا ما، ثم يجب على الصديقة الرد بشيء ما، سنفعل ذلك دع الناس يكتبون مثل هذا الرد، ثم دع الآلة تفعل ذلك، إذا كانت الاستجابة الناتجة عن التعلم الآلي غير صحيحة، فسنقوم بتعديل معلماتها حتى تتمكن من الإخراج وفقًا للمنطق الذي تخيلناه.
وفيما يتعلق بالمواقف التي تبدو فيها شخصيات الذكاء الاصطناعي "إباحية" أو "حوار عنيف" أو "مهينة للاعبين" في إجاباتها، قال تشانغ تشي إن بيانات نموذج اللغة الكبيرة الحالية وراء هذه البرامج تأتي بشكل أساسي من روايات المحادثة، أو بعضها مصنوع من الروايات . على الرغم من وجود عدد كبير من الروايات على الإنترنت، إلا أن الجودة تختلف، كما أن العديد من المحتويات الإباحية والحدودية والعنيفة منتشرة على نطاق واسع. إذا لم يتم تصفية البيانات أو تصنيفها بشكل جيد، فسوف تحدث مشاكل عند إخراج النموذج.
■ حجة
وتقع اللوم على منصات الذكاء الاصطناعي لتمرير الحافة، وينبغي تعزيز تصفية المحتوى لحماية الشباب
قال ليو كاي، المحامي في شركة Beijing Zhongwen (Changsha) للمحاماة، إن المنصات عبر الإنترنت تتحمل مسؤولية التأكد من أن المحتوى المقدم في وضع الشباب غير ضار للقاصرين ومنع انتشار المحتوى الذي يتضمن الفحش أو المواد الإباحية أو العنف أو اللغة غير اللائقة. تم تصميم وضع الشباب لحماية القاصرين، وإذا تم تشغيل هذا الوضع، فلا يزال من الممكن إجراء المحادثات التي تتضمن محتوى إباحيًا، وهو ما يمثل انتهاكًا واضحًا للأحكام ذات الصلة من "قانون حماية القاصرين".
من وجهة نظر ليو كاي، فإن وجود مشكلات في برنامج الدردشة القصصي القائم على الذكاء الاصطناعي لا يعكس فقط الافتقار إلى الإدارة الداخلية للمنصة، ولكنه يسلط الضوء أيضًا على الحاجة إلى الإشراف الخارجي. يجب أن تعمل برامج الدردشة المستندة إلى الذكاء الاصطناعي على تعزيز آلية مراجعة المحتوى، خاصة بالنسبة لوضع الشباب، لضمان قدرة التكنولوجيا على تصفية المحادثات غير المناسبة وحظرها بشكل فعال. تحتاج المنصات إلى إجراء مراجعة أخلاقية لنماذج الذكاء الاصطناعي للتأكد من أن المحتوى الناتج يتوافق مع القوانين واللوائح ذات الصلة.
إذا قام شخص افتراضي يعمل بالذكاء الاصطناعي بإهانة مستخدم في محادثة، خاصة عندما يعبر المستخدم عن الاكتئاب أو اليأس، أو يستخدم كلمات متطرفة لإهانة الآخرين أو يرتكب عنفًا إلكترونيًا، إذا كانت الظروف خطيرة، فإنه يشكل جريمة. وقال ليو كاي: "حتى لو لم يكن الذكاء الاصطناعي موضوعًا بشريًا، فإن سلوكه لا يزال نتيجة لتصميم المنصة وإدارتها. وتتحمل المنصة مسؤولية الإشراف على نموذج الذكاء الاصطناعي الخاص بها وتحسينه لمنعه من إيذاء المستخدمين".
مع بدء المزيد والمزيد من المستخدمين في التدفق على برامج الدردشة الدرامية المدعمة بالذكاء الاصطناعي، كيف يجب على مطوري البرامج تصميمها بحيث يتم شفاءها دون تجاوز الحدود؟
وقال تشانغ تشي لمراسل صحيفة بكين نيوز، "يمكن تحقيقه من خلال الطريقة الفنية لـ "المحاذاة الشبيهة بالإنسان"، ولكن التكلفة أعلى." وقال تشانغ تشي إن "المحاذاة الشبيهة بالإنسان" هي طريقة تعلم معززة لتغيير تحيز إخراج اللغة للنموذج لجعله أكثر دقة وإزالة المشكلات المتعلقة بالسلامة والأخلاق. ومع ذلك، فإن تكلفة التدريب على "المواءمة الشبيهة بالإنسان" مرتفعة للغاية، بما في ذلك العدد الكبير من التعليقات التوضيحية، وعدم كفاية استقرار التدريب وارتفاع تكلفة الوقت. "من الصعب على الشركات الصغيرة القيام بعمل جيد في "المواءمة الشبيهة بالإنسان". من حيث التكنولوجيا والموظفين والتكاليف الرأسمالية."