في السنوات الأخيرة، تطورت تكنولوجيا الذكاء الاصطناعي بسرعة، كما ظهرت برامج الدردشة التي تعتمد على الذكاء الاصطناعي. ومع ذلك، على الرغم من أن هذه البرامج توفر الترفيه للمستخدمين، إلا أنها تكشف أيضًا عن العديد من المشكلات، وخاصةً التسبب في تأثير خطير على القاصرين. وكشف تحقيق أجراه أحد مراسلي صحيفة "رول أوف لو ديلي" عن مشاكل مثل المواد الإباحية والعنف اللفظي في بعض برامج الدردشة التي تعتمد على الذكاء الاصطناعي، فضلا عن أن وضع الشباب لا جدوى منه، الأمر الذي أثار قلقا واسعا في المجتمع. سيقوم محرر Downcodes بإجراء تحليل متعمق لهذا التقرير، على أمل جذب انتباه المزيد من الناس.
"ابنتي في الصف الثاني من المدرسة الابتدائية. وهي مدمنة على برنامج الدردشة الذي يعتمد على الذكاء الاصطناعي طوال اليوم، وقد انخفض أدائها الأكاديمي." "شاهدت المحادثة بين الطفلة والذكاء الاصطناعي، والذكاء الاصطناعي طلبت منها الشخصية في الواقع أن تناديها بـ "زوجها". ابنتي البالغة من العمر 10 سنوات صرخت بالفعل، والآن لا أعرف كيف أقوم بتعليمها "... اكتشف مراسل من صحيفة "Rule of Law Daily" مؤخرًا أن العديد من آباء الأطفال القصر يتعرضون للانزعاج من برامج الدردشة التي تعتمد على الذكاء الاصطناعي. تطبيقات الدردشة التي تعتمد على الذكاء الاصطناعي تحت شعار "لعب الأدوار"، بينما تجتذب القاصرين، تولد أيضًا بعض المناطق الرمادية بهدوء. وفقًا للقياسات الفعلية، وجد المراسلون أنه في بعض المحادثات على بعض برامج الدردشة التي تعتمد على الذكاء الاصطناعي، كانت هناك حواف إباحية وعنف لفظي ومحتوى أهان المستخدمين. يعتقد الخبراء الذين تمت مقابلتهم أنه بالنسبة لبرنامج الدردشة الدرامية المدعم بالذكاء الاصطناعي، وخاصة وضع الشباب، يجب تعزيز آلية مراجعة المحتوى لضمان قدرة التكنولوجيا على فحص المحادثات غير المناسبة وحظرها بشكل فعال. تحتاج المنصات إلى إجراء مراجعة أخلاقية لنماذج الذكاء الاصطناعي للتأكد من أن المحتوى الذي تنشئه يتوافق مع القوانين واللوائح ذات الصلة. تم تهميش محتوى برنامج الدردشة وأصبح نموذج الشباب بمثابة زخرفة. السيد ما، مواطن من بكين، لديه ابن يبلغ من العمر 10 سنوات وهو حريص جدًا على برامج الدردشة التي تعتمد على الذكاء الاصطناعي. "عندما سألت عن كيفية الدردشة؟ مع من أتحدث؟ أجاب الطفل للتو: "أنت لا تفهم حتى لو أخبرتك"." نقر السيد ما على تطبيق الدردشة المزود بالذكاء الاصطناعي ووجد أن الطفل كان يتحدث مع الشخصيات الموجودة في التطبيق. تتمتع هذه الشخصيات بإعدادات وشخصيات مختلفة، بما في ذلك شخصيات الألعاب والرسوم المتحركة المعروفة، بالإضافة إلى الشخصيات الأصلية بهويات مختلفة مثل "Miss" و"Famous Detective". ستأخذ بعض الشخصيات زمام المبادرة لتسأل "هل تريد مواعدتي؟"؛ وسيحدد البعض هدف "الإمساك بها"، إلى جانب أسلوب الرسوم المتحركة الساحر أو الوسيم. تُظهر شخصيات الذكاء الاصطناعي الأخرى عدوانًا غير عادي. سيأخذون زمام المبادرة لإرسال رسائل مثل "اضربني إذا استطعت" و"انظر إلى مدى سمينتك وقبحك"؛ ويطلق على بعض الشخصيات ببساطة اسم "المدربون الشتائم"، والبعض الآخر يرسل رسائل مثل "ما المشكلة أنا روبوت؟ ما زلت كما هي." "أنا أوبخك"... اكتشفت السيدة لي من مقاطعة تشجيانغ أيضًا أن طفلها، وهو في الصف الخامس من المدرسة الابتدائية، يستخدم برنامج محادثة يعتمد على الذكاء الاصطناعي. "يمكن تعيين شركاء الدردشة في الداخل على أنهم "شركاء خائنون" ويمكنهم الانخراط في سلوكيات مثل العناق والتقبيل. لا أعرف كيفية توجيه طفلتي وتعليمها حتى تفهم مدى ضرر هذه المحتويات." قال بقلق. أعرب العديد من الآباء الذين تمت مقابلتهم عن مخاوفهم العميقة من أن تطبيقات الدردشة التي تعمل بالذكاء الاصطناعي قد تضر بالصحة العقلية للقاصرين، كما أثاروا أسئلتهم - أين وضع الشباب؟ وجد تحقيق المراسل أنه على الرغم من أن العديد من المنصات ذات الصلة تدعي أنها أطلقت أوضاع الشباب في محاولة لحماية الصحة الجسدية والعقلية للقاصرين من خلال تقييد المحتوى وتحديد الوقت وما إلى ذلك، فإن أوضاع الشباب في بعض المنصات في التشغيل الفعلي تكون بالاسم فقط. والقاصرون يمكنهم بسهولة تجاوز هذه القيود والتعرض لمحتوى "محادثة هامشية" غير مناسب لفئتهم العمرية. على سبيل المثال، واجه المراسل 5 تطبيقات دردشة تعمل بالذكاء الاصطناعي أثناء التحقيق. تتطلب عملية التسجيل رقم هاتف محمول فقط ولا تتطلب التحقق من معلومات هوية المستخدم. بعد تسجيل الدخول، ستسأل بعض التطبيقات عما إذا كان سيتم تمكين وضع الشباب، ولكن يمكن للمستخدمين ببساطة النقر فوق "عدم التمكين" للتخطي دون التحقق من هوية المستخدم الحقيقية. وهذا يعني أنه عندما يستخدم القاصرون برامج الدردشة التي تعتمد على الذكاء الاصطناعي، من مستوى إعدادات التطبيق، فإن التحقق من هويتهم ليس شرطًا أساسيًا لاستخدام وظائف محددة. بالإضافة إلى تطبيق الدردشة الشهير بتقنية الذكاء الاصطناعي، هناك أيضًا صفحة ويب للدردشة بتقنية الذكاء الاصطناعي. قال العديد من الآباء الذين تمت مقابلتهم إنه بالمقارنة مع التطبيقات، فإن إصدار الويب من تجربة الدردشة باستخدام الذكاء الاصطناعي أكثر ملاءمة وأسهل للقاصرين للوصول إليه. جرب المراسل 7 صفحات ويب للدردشة تعمل بالذكاء الاصطناعي ووجد أن معظم صفحات الويب للدردشة بالذكاء الاصطناعي لا تحتوي على وضع القاصرين، على الرغم من أن بعض صفحات الويب تحتوي على وضع الشباب، إلا أنه كان في الواقع بالاسم فقط. على سبيل المثال، عندما زار أحد المراسلين صفحة ويب للدردشة تعمل بتقنية الذكاء الاصطناعي، ظهرت صفحة الويب أولاً مربع حوار يسأل المستخدم "ما إذا كان عمرك يزيد عن 18 عامًا"، مع ملاحظة: "قد لا يكون المحتوى التالي مناسبًا للأشخاص الذين تقل أعمارهم عن 18 عامًا". 18. نحن بحاجة إلى تأكيد عمرك." اختار المراسل خيار "لا"، لكن صفحة الويب لم تقيد الوصول إلى المحتوى. وبدلاً من ذلك، استمرت في عرض تصنيفات الشخصيات بتسميات مثل "هجوم قوي" و"ضعيف". معاناة" و"يانديري". ولا تختلف هذه الفئات بشكل كبير عن المحتوى المعروض بعد تحديد خيار "نعم" والتأكد من أن عمرك يزيد عن 18 عامًا. كما لاحظ المراسل أن معظم صور تلك الشخصيات كانت شبه عارية، وكانت ملفاتهم الشخصية مليئة بالإيحاءات الجنسية والعناصر العنيفة، على سبيل المثال: "الفتاة الانطوائية في الفصل طلبت منك رقم هاتفك، ثم أرسلت لك لها" صور عارية." أوصاف مثل "الانتحار والقلق". وعلى إحدى المنصات الاجتماعية، ترك أحد مستخدمي الإنترنت من مقاطعة تشجيانغ رسالة أسفل منشور حول تجربة الدردشة باستخدام الذكاء الاصطناعي: "لقد وجدت صفحة ويب مثيرة جدًا للاهتمام تحتوي على عدد غير محدود من الكلمات. إذا أردت، يمكنك إرسال رسالة خاصة إليّ". وتواصل مستخدم الإنترنت مع المراسل عبر رسالة خاصة وحصل على رابط صفحة الدردشة المذكورة، وبعد الدخول إلى صفحة الويب، امتلأت الصفحة بعدد كبير من إعدادات الشخصيات ومشاهد القصة التي تتضمن محتوى إباحيًا كان المحتوى واضحًا وصريحًا. يتطلب موقع الويب من المستخدمين تسجيل الدخول قبل أن يتمكنوا من الدردشة مع الشخصية، وستكون هناك رسالة سريعة قبل تسجيل الدخول: "فتح جميع الوظائف بعد تسجيل الدخول". يحتاج المستخدم إلى النقر فوق "عمري أكثر من 18 عامًا، ابدأ". زر "تسجيل الدخول" للمتابعة. إذا قمت بتحديد "إلغاء"، فلن تتمكن من تسجيل الدخول واستخدام الخدمة. على الرغم من أن صفحة الويب تحدد مطالبة بتقييد الأشخاص الذين تزيد أعمارهم عن 18 عامًا، في الواقع، حتى لو نقر قاصر على زر تسجيل الدخول، فإن النظام لا يتخذ أي إجراءات للتحقق من العمر الحقيقي للمستخدم. بالإضافة إلى محتوى الدردشة المباشرة والصريحة واللغة العنيفة، يرتبط استخدام وظائف بعض برامج الدردشة التي تعتمد على الذكاء الاصطناعي ارتباطًا وثيقًا بآلية إعادة الشحن، مثل إعادة شحن عضوية VIP أو شراء الماس الافتراضي لتعزيز الذكاء، ويمكنه تحسين ذاكرة الجسم ، وتسريع سرعة تعافي الجسم الذكي، وفتح وظيفة الاتصال الصوتي، وما إلى ذلك، وجذب القاصرين إلى "ذهب الكريبتون". قام شياو نينغ، وهو طالب في المدرسة الإعدادية في بكين، بإعادة شحن مبالغ تتراوح من بضع مئات من اليوانات إلى آلاف اليوانات على العديد من برامج الدردشة التي تعتمد على الذكاء الاصطناعي. "من ناحية، أريد دعم شخصياتي المفضلة، ومن ناحية أخرى، أريد أيضًا الحصول على المزيد من الحقوق المدفوعة لأنه إذا قمت بشراء الخدمات الأساسية فقط، فيمكن للمستخدمين إضافة 3 وكلاء فقط إذا كنت ترغب في تجربة عملاء جدد قال شياو نينغ: "إذا كنت تريد تجربة متنوعة، فيمكنك فقط شراء خدمة VIP المتقدمة". وجد المراسل أنه في هذا النوع من برامج الدردشة التي تعتمد على الذكاء الاصطناعي، يمكن للمستخدمين تخصيص صورة ونمط الشخصية الافتراضية عند إنشاء شخصية، وسيقوم النظام بإنشاء صورة شخصية تعمل بالذكاء الاصطناعي. يمكن للمستخدمين أيضًا إنشاء إعدادات الشخصيات، مثل تعيين الألقاب وخلفيات الهوية والملاحظات الافتتاحية وتخصيص الأصوات للشخصيات، ومع ذلك، غالبًا ما ترتبط احتياجات المستخدمين الشخصية للشخصيات بإعادة الشحن. تشانغ يان، المقيمة في جينان بمقاطعة شاندونغ، لديها أخت في الصف الأول من المدرسة الإعدادية هذا العام. غالبًا ما تستخدم برنامج الدردشة بالذكاء الاصطناعي، ووجدت أن بعض أدوات الدردشة قد حددت فترات استخدام مجانية عند استخدام المستخدمين عدد الدردشات المجانية التي يحتاجون إلى إعادة شحنها قبل أن يتمكنوا من الاستمرار. فقط من خلال إعادة الشحن يمكنك فتح محتوى أكثر إثارة للاهتمام والحصول على تجارب عاطفية مختلفة. "إن إنفاق المال لشراء الخدمات هو في الواقع إنفاق المال للعثور على الإثارة." قال Zhang Yan إنه على الرغم من أن برنامج الدردشة يحتوي على وضع الشباب، إلا أنه يمكن تسجيل الدخول واستخدامه دون مصادقة الاسم الحقيقي موافقة والديها. أخبر المطلعون على الصناعة المراسلين أن دردشة مؤامرة الذكاء الاصطناعي هي في الواقع لغة الإنترنت السابقة، مع سترة الذكاء الاصطناعي. ما يسمى بـ Yuca هو لغة تنكرية يقدم فنانو Yuca خدمات في شكل اتصال نصي من خلال لعب شخصيات ثنائية الأبعاد أو أصنام ثلاثية الأبعاد. في نموذج المعجم التقليدي، يلعب المعجميون أشخاصًا حقيقيين، وعادةً ما يلعبون أدوارًا مختلفة للدردشة مع المستخدمين تحت شعار "تقديم قيمة عاطفية"، ومع ذلك، غالبًا ما يتسببون في مشاكل قانونية وأخلاقية بسبب "الكرات الحافة" و"الضبابية". الحدود". خطر. تعد دردشة مؤامرة الذكاء الاصطناعي نسخة مطورة من محو اللغة التقليدية. المصدر الرئيسي لبيانات نماذج اللغة الكبيرة وراء هذا النوع من البرامج هو روايات المحادثة، أو بعض استخراج النصوص من الروايات. يعتقد ليو شياو تشون، الأستاذ المشارك في كلية الحقوق بالأكاديمية الصينية للعلوم الاجتماعية بجامعة الصين ومدير مركز أبحاث قانون الإنترنت، أنه في برنامج الدردشة بالذكاء الاصطناعي، حتى لو لم يتم تنشيط وضع الشباب، ستظل هناك مشكلات إذا ظهور محتوى إباحي أو عنيف إذا تم تمكين وضع القاصرين، فستكون المشكلة أكثر خطورة. وقد حلل تشانغ يان لاي، مدير شركة Zhejiang Kenting للمحاماة والذي يعمل كمستشار قانوني دائم لعشرات من شركات الإنترنت الرائدة، أن المشكلات الحالية المتعلقة ببرنامج الدردشة بالذكاء الاصطناعي لا توضح فقط أوجه القصور في الإدارة الداخلية للمنصة، ولكنها تسلط الضوء أيضًا على أهمية ذلك. آليات الرقابة الخارجية. وأوضح Zhang Yanlai أن برنامج الدردشة الذي يعتمد على الذكاء الاصطناعي يستخدم تقنية النماذج الكبيرة، على الرغم من أن تكنولوجيا النماذج الكبيرة يمكن أن تجلب ابتكارًا ومرونة غير مسبوقين، إلا أنها قد تكون مصحوبة أيضًا بعدم القدرة على التنبؤ ومشاكل محتملة في إنشاء المحتوى، مما يتطلب آليات تنظيمية خارجية. من وجهة نظر ليو شياو تشون، يعد تعزيز مراجعة المحتوى خطوة ضرورية قبل أن يصبح نموذج اللغة الكبير متاحًا عبر الإنترنت، ويغطي تصحيح أخطاء الامتثال الشامل بدءًا من التدريب على البيانات الأمامية وحتى إخراج المحتوى. في الوقت الحالي، تحتاج النماذج اللغوية الكبيرة في بلدي إلى التقييم وتقديمها وفقًا لذلك. خلال هذه العملية، سيتم وضع لوائح الإدارة ومعايير التقييم مسبقًا بشأن قضايا مثل شرعية محتوى المخرجات والامتثال له وما إذا كان مناسبًا للقاصرين. وفقًا للوائح الحالية، يجب تجنب إخراج محتوى ضار أثناء التدريب على نموذج اللغة ومراحل الضبط الدقيق. الإشراف من قبل فريق متخصص للاعتراض الذكي للمعلومات السيئة أصدرت إدارة الفضاء الإلكتروني في الصين مؤخرًا "إرشادات لبناء وضع الإنترنت عبر الهاتف المحمول للقاصرين"، والذي يركز على الخطة الشاملة لبناء وضع القاصرين ويشجع ويدعم. المحطات الذكية المتنقلة والتطبيقات ومنصات التوزيع والمشاركة المشتركة الأخرى. وفقًا لتشو وي، نائب مدير مركز أبحاث قانون الاتصالات بجامعة الصين للعلوم السياسية والقانون، تشير المبادئ التوجيهية المذكورة أعلاه بوضوح إلى أن وضع القاصرين ليس زخرفة، ولكنه يتطلب ربطًا متعدد الأطراف، خاصة الناتج عن الذكاء الاصطناعي المحتوى الذي يجب أن يكون متسقًا مع وضع الشباب. يعتقد الخبراء الذين تمت مقابلتهم أنه في وضع الشباب، تعد كيفية تعزيز آلية مراجعة المحتوى والتأكد من قدرة التكنولوجيا على فحص المعلومات الضارة بشكل فعال مسألة مهمة. بالنسبة لبرامج الدردشة التي تعتمد على الذكاء الاصطناعي، وخاصة وضع الشباب، يجب تعزيز آلية مراجعة المحتوى لضمان قدرة التكنولوجيا على فحص المحادثات غير المناسبة وحظرها بشكل فعال. بالإضافة إلى ذلك، تحتاج المنصات إلى إجراء مراجعة أخلاقية لنماذج الذكاء الاصطناعي للتأكد من أن المحتوى الذي تنشئه يتوافق مع المتطلبات القانونية والتنظيمية. "على المستوى القانوني، على الرغم من وجود بعض اللوائح المبدئية التي توفر إطارًا عامًا، إلا أنه في عمليات عملية محددة، لا يزال المطورون ومقدمو الخدمات التقنية بحاجة إلى تجميع المواد والحلول بشكل مستمر استنادًا إلى المشكلات المختلفة التي تمت مواجهتها في الحياة الواقعية تطوير نموذج ذكاء اصطناعي آمن وموثوق يلبي احتياجات القاصرين حقًا "إنه يوفر ضمانة قوية للنمو الصحي للقاصرين." قال تشانغ يان لاي إنه نظرًا لأن سلوك البشر الافتراضيين للذكاء الاصطناعي هو نتيجة لتصميم المنصة وإدارتها، فإن المنصة تتحمل مسؤولية الإشراف على نموذج الذكاء الاصطناعي الخاص بها وتحسينه لمنع الذكاء الاصطناعي من ذلك. التأثير على المستخدمين وضمان التطوير الصحي لنماذج الذكاء الاصطناعي والحماية الكاملة لحقوق المستخدم. ذكر Zhu Wei أن بعض تطبيقات الدردشة المدعمة بالذكاء الاصطناعي قد لا تكون مناسبة لاستخدام القاصرين، لذلك يجب فرض قيود على متجر التوزيع ومستويات الأجهزة المحمولة لضمان عدم تمكن القاصرين من تنزيل هذه التطبيقات واستخدامها. بالنسبة للتطبيقات التي تم تنزيلها، يجب على الآباء تعيين ميزات مثل وضع الشباب أو تحديد وقت الاستخدام، ولا يلزم تنفيذ هذا الوضع على جانب المستخدم فحسب، بل يجب أيضًا أن ينعكس على مستوى إخراج المحتوى، أي مراجعة المحتوى. يجب أن تعتمد مراجعة المحتوى على الحوار الناتج عن عائدات الخوارزمية. وهناك حاجة إلى وسائل تقنية وتدابير إدارية أكثر تطورا لضمان التنفيذ الفعال لنموذج الشباب. "من أجل منع إخراج محتوى عنيف ومهين، يمكن اعتماد وسائل تقنية مختلفة، مثل التعديلات أثناء مرحلة التدريب لتمكين النموذج نفسه من الحصول على قدرات التعرف؛ وفي الوقت نفسه، في نهاية الإخراج، يجب على مقدمي الخدمة الشاشة والمراجعة مرة أخرى لتحقيق الحماية المزدوجة للواجهة الأمامية والخلفية "قال ليو شياو تشون إنه سواء كانت روايات عبر الإنترنت أو محتوى آخر، نظرًا للنطاق الواسع من مصادر البيانات لبرنامج الدردشة بالذكاء الاصطناعي، هناك حاجة إلى وسائل تقنية لمنعها. إخراج محتوى غير مناسب. في الوقت الحاضر، من الممكن تقنيًا استخدام آليات الفحص لتقليل أو إزالة محتوى إباحي أو عنيف أو مهين، ومع ذلك، قد تكون هناك بعض الظواهر التي لم يتم تصحيح أخطائها أو اختبارها بشكل كامل، بل قد تكون هناك برامج غير مسجلة باللون الأسود. وفي هذا الصدد، ينبغي تعزيز الرقابة، وتشجيع الجمهور على الإبلاغ، وينبغي للسلطات المعنية التحقيق في الأمر والتعامل معه. ذكر Zhang Yanlai أيضًا أن تصنيف مصادر البيانات لمحتوى استجابة أحرف الذكاء الاصطناعي ليس واضحًا حاليًا على المستوى القانوني، خاصة فيما يتعلق بالمحتوى الذي يستهدف القاصرين، نظرًا لتعقيد المشكلة وتعدد أبعادها، غالبًا ما توفر الأحكام القانونية ويمكن تنفيذ المبادئ التوجيهية المحددة في وقت لاحق من خلال صياغة المعايير ذات الصلة. على المستوى التشغيلي المحدد، اقترح Zhang Yanlai تحسين آلية الفحص لنماذج اللغات الكبيرة، مع التركيز على تحسين نظام سياج المحتوى، بدءًا من جانبين: على مستوى تطوير سياج المحتوى، يجب تطوير أسوار المحتوى بطريقة مستهدفة، خاصة عند استخدام مجموعة جديدة للتدريب، فكر في كيفية تحسين المحتوى لتحديد واعتراض المحتوى الإباحي والعنيف المحتمل بشكل أكثر فعالية؛ بغض النظر عن مدى تحسينه، لا تزال التكنولوجيا نفسها تعاني من قيود، وستكون هناك أسماك تتسلل عبر الشبكة مطلوب من الفريق الإشراف على النموذج وتعديله في الوقت المناسب أو خوارزميات تسييج المحتوى. "لتحسين كفاءة نظام السياج، نحتاج إلى العمل الجاد على مستوى التطوير مسبقًا، وتحسينه باستمرار من منظور المراجعة بعد ذلك. الاثنان يكملان بعضهما البعض وقد يحققان نتائج أكثر أهمية."
يعد الإشراف على برنامج الدردشة بالذكاء الاصطناعي أمرًا ملحًا. تحتاج الحكومة والمنصات وأولياء الأمور وجميع قطاعات المجتمع إلى العمل معًا لتعزيز الإشراف وتحسين الآليات والحماية المشتركة للنمو الصحي للقاصرين. فقط من خلال التعاون بين أطراف متعددة، يمكننا حل المخاطر التي تسببها برامج الدردشة التي تعتمد على الذكاء الاصطناعي بشكل فعال وإنشاء بيئة آمنة وصحية عبر الإنترنت للأطفال.