تواجه الشخصية الذكاء الاصطناعي دعاوى قضائية على chatbot التي تسبب فيها طفل يبلغ من العمر 14 عامًا للانتحار. اتهم والدا المدعي منصة الفشل في تنظيم "Dany" بفعالية ، مما تسبب في أن يصبح ابنه مدمنًا على العالم الافتراضي والانتحار في النهاية. دحضت الشخصية AI أن منصتها محمية من خلال التعديل الأول ويعتقد أن المدعي يعتزم إغلاق المنصة وتعزيز التشريعات ذات الصلة ، والتي سيكون لها تأثير سلبي على صناعة الذكاء الاصطناعي بأكملها.
Forme AI ، وهي منصة تتيح للمستخدمين لعب الأدوار مع AI chatbots ، رفعت مؤخرًا دعوى قضائية رفعها أحد الوالدين في سن المراهقة في محكمة المقاطعة الأمريكية في المقاطعة المركزية ، فلوريدا. اتهمت الوالد ميغان جارسيا شخصية الذكاء الاصطناعي بتكنولوجياها التي أضرت ابنها سويل سيتزر الثالث البالغ من العمر 14 عامًا ، قائلة إنها أصبحت معزولة تدريجياً عن العالم الحقيقي وأدت في النهاية إلى الانتحار عندما تواصلت مع دردشة تدعى "داني".
بعد وفاة Setzer ، قالت AI الشخصية إنها ستطلق مجموعة من ميزات الأمان لتحسين قدرات الكشف والتدخل في محتوى الدردشة الذي ينتهك شروط الخدمة. ومع ذلك ، تأمل Garcia أن تكون المنصة قادرة على فرض قيود أكثر صرامة ، مثل حظر برامج الدردشة من سرد القصص ومشاركة الحكايات الشخصية.
في طلب الرفض ، جادل الفريق القانوني للشخصية بأن المنصة كانت محمية بموجب التعديل الأول ، مدعيا أن حقوق مستخدميها في حرية التعبير سيتم انتهاكها. تنص المستندات القانونية على أنه على الرغم من أن هذه القضية تتضمن حوارًا تم إنشاؤه بواسطة الذكاء الاصطناعي ، فإن هذا لا يختلف كبيرًا عن الحالات السابقة التي تشمل شركات الوسائط والتكنولوجيا.
تجدر الإشارة إلى أن دفاع AI للشخصية لا يتضمن قابلية تطبيق القسم 230 من قانون أخلاقيات الاتصالات ، والذي يوفر حماية لوسائل التواصل الاجتماعي والمنصات الأخرى عبر الإنترنت من المسؤولية عن محتوى الطرف الثالث. على الرغم من أن واضعي الفاتورة ضمنيًا أن الحكم لم يحمي المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى ، إلا أن هذه المشكلة غير حاسمة.
وقال المحامون في الشخصية AI أيضًا عن نية جارسيا الحقيقية هي "إغلاق" المنصة وتعزيز التشريعات حول التقنيات المماثلة. إذا نجحت الدعوى ، فستكون لها "تأثير تقشعر لها الأبدان" على الذكاء الاصطناعي وصناعة الذكاء الاصطناعي الناشئة بأكملها.
في الوقت الحالي ، تواجه الشخصية الذكاء الاصطناعي دعاوى قضائية متعددة تركز على كيفية تفاعل القاصرين مع المحتوى الذي تم إنشاؤه على منصتهم ، بما في ذلك حالة واحدة تدعي أن المنصة أظهرت "محتوى فرطيا" لأطفال يبلغون من العمر 9 سنوات ، واتهمها الآخر بالتسبب المستخدمين القدامى لإيذاء أنفسهم.
كما أعلن المدعي العام في تكساس كين باكستون عن تحقيق في شخصية الذكاء الاصطناعي و 14 شركة تقنية أخرى ، متهمينهم بانتهاك قوانين الولايات لحماية خصوصية الأطفال والأمن على الإنترنت. الشخصية AI هي جزء من صناعة تطبيقات AI Companion سريعة النمو ، ولم تتم دراسة آثار الصحة العقلية في هذا المجال بالكامل.
على الرغم من التحديات المختلفة ، تقدم AI AI باستمرار أدوات أمان جديدة واتخاذ خطوات لحماية المستخدمين دون السن القانونية ، مثل إطلاق نماذج منفصلة من الذكاء الاصطناعي في سن المراهقة والقيود على المحتوى الحساس.
سيكون للنتيجة النهائية لهذه القضية تأثير عميق على التطوير المستقبلي لصناعة الذكاء الاصطناعى التوليدي ، وكذلك الضوء على الحاجة الملحة لأخلاقيات تقنية الذكاء الاصطناعي والإشراف على الأمن. تحتاج جميع الأطراف إلى العمل معًا لإيجاد توازن بين التقدم التكنولوجي والمسؤولية الاجتماعية.