เมื่อเร็ว ๆ นี้ตัวละครแพลตฟอร์ม AI Chatbot AI ได้มีส่วนร่วมในข้อพิพาททางกฎหมายเกี่ยวกับคดีที่เกี่ยวข้องกับการฆ่าตัวตายของวัยรุ่นซึ่งได้รับความสนใจอย่างกว้างขวาง แพลตฟอร์มอ้างว่าข้อสังเกตได้รับการคุ้มครองโดยการแก้ไขครั้งแรกของสหรัฐอเมริกาและยื่นคำร้องเพื่อถอนคำฟ้องปฏิเสธที่จะรับผิดชอบต่อเหตุการณ์ เหตุการณ์นี้ไม่เพียง แต่เน้นถึงความเสี่ยงที่อาจเกิดขึ้นของ AI chatbots เท่านั้น บทความนี้จะวิเคราะห์รายละเอียดเกี่ยวกับภาวะที่กลืนไม่เข้าคายไม่ออกทางกฎหมายที่ตัวละคร AI และปัญหาลึก ๆ อยู่เบื้องหลัง
เมื่อเร็ว ๆ นี้ตัวละครแพลตฟอร์ม AI Chatbot AI ได้อยู่ในภาวะที่กลืนไม่เข้าคายไม่ออกทางกฎหมายในกรณีที่เกี่ยวข้องกับการฆ่าตัวตายของวัยรุ่น แพลตฟอร์มดังกล่าวได้ยื่นคำร้องเพื่อถอนการฟ้องร้องในศาลแขวงกลางของฟลอริดาโดยอ้างว่าภายใต้การแก้ไขครั้งแรกพวกเขาไม่ควรรับผิดชอบต่อคดีฟ้องร้องที่เกี่ยวข้อง
คดีนี้เกิดจากคดีที่เมแกนการ์เซียยื่นฟ้อง AI ในเดือนตุลาคม ลูกชายของการ์เซียซีเวลเซิร์เซอร์ III อายุ 14 ปีก่อตัวขึ้นการพึ่งพาอารมณ์ที่รุนแรงหลังจากใช้ตัวละครแชทบ็อตของ AI ซึ่งในที่สุดก็นำไปสู่ความเศร้าที่เกิดขึ้น การ์เซียกล่าวว่าลูกชายของเธอมักจะสื่อสารกับแชทบ็อตนี้และค่อยๆกลายเป็นแปลกแยกจากชีวิตจริง
หลังจากการตายของสจ๊วตตัวละคร AI ได้สัญญาว่าจะแนะนำคุณสมบัติด้านความปลอดภัยหลายประการเพื่อเพิ่มการตรวจสอบและการแทรกแซงในเนื้อหาแชท การ์เซียหวังว่า บริษัท จะใช้มาตรการที่เข้มงวดเช่นการห้ามแชทบอทจากการเล่าเรื่องหรือเกร็ดเล็กเกร็ดน้อยส่วนตัว
ตัวละคร AI ระบุไว้ในการเคลื่อนไหวการถอนว่าการแก้ไขครั้งแรกที่ได้รับการคุ้มครองสื่อและ บริษัท เทคโนโลยีจากความรับผิดสำหรับข้อสังเกตที่เรียกว่าเป็นอันตรายโดยเน้นว่าสิทธินี้ยังใช้กับการโต้ตอบของผู้ใช้กับ AI chatbots การเคลื่อนไหวเน้นว่าหากคดีประสบความสำเร็จมันจะละเมิดเสรีภาพในการพูดของผู้ใช้
การเคลื่อนไหวไม่ได้กล่าวถึงว่าตัวละคร AI ได้รับการคุ้มครองภายใต้มาตรา 230 ของพระราชบัญญัติจริยธรรมการสื่อสารหรือไม่ กฎหมายมีวัตถุประสงค์เพื่อปกป้องโซเชียลมีเดียและแพลตฟอร์มออนไลน์อื่น ๆ จากการรับผิดชอบต่อเนื้อหาที่ผู้ใช้สร้างขึ้น แต่ก็ยังมีข้อโต้แย้งว่าเนื้อหาที่สร้างขึ้นโดย AI นั้นได้รับการคุ้มครองตามกฎหมายนี้หรือไม่
นอกจากนี้ทีมกฎหมายของตัวละคร AI ชี้ให้เห็นว่าความตั้งใจที่แท้จริงของการ์เซียคือการ "ปิด" ตัวละคร AI และส่งเสริมการออกกฎหมายเกี่ยวกับเทคโนโลยีที่คล้ายกัน บริษัท เชื่อว่าหากการฟ้องร้องชนะมันจะมี "ผลกระทบที่หนาวเหน็บ" ต่อตัวละคร AI และอุตสาหกรรม AI ที่เกิดขึ้นใหม่ทั้งหมด
นอกเหนือจากคดีนี้ตัวละคร AI ยังต้องเผชิญกับการฟ้องร้องทางกฎหมายหลายคดีที่เกี่ยวข้องกับการใช้เนื้อหา AI สำหรับวัยรุ่น ข้อกล่าวหาอื่น ๆ รวมถึงตัวละคร AI ที่แสดง“ เนื้อหาที่มากเกินไป” ให้กับเด็กอายุ 9 ปีและชี้นำพฤติกรรมการทำร้ายตนเองโดยผู้ใช้อายุ 17 ปี
อัยการสูงสุดเท็กซัสเคนแพกซ์ตันประกาศในเดือนธันวาคมการสอบสวนเรื่อง AI ตัวละครและ บริษัท เทคโนโลยีอื่น ๆ 14 แห่งโดยอ้างว่ามีการละเมิดกฎหมายความเป็นส่วนตัวและความปลอดภัยออนไลน์ของเด็ก
ตัวละคร AI ก่อตั้งขึ้นในปี 2564 ซึ่งเป็นส่วนหนึ่งของแอพพลิเคชั่น AI Companion และในขณะที่สาขานี้กำลังเฟื่องฟูผลกระทบต่อสุขภาพจิตที่เกี่ยวข้องยังไม่ได้รับการศึกษาอย่างเต็มที่ ในขณะที่ บริษัท เปิดตัวเครื่องมือรักษาความปลอดภัยที่หลากหลายและโมเดล AI เฉพาะวัยรุ่นตัวละคร AI กล่าวว่าจะปรับปรุงการจัดการความปลอดภัยและการจัดการเนื้อหาบนแพลตฟอร์มต่อไป
คะแนน:
ตัวละคร AI ถูกตั้งข้อหาคดีฆ่าตัวตายของวัยรุ่นและนำไปใช้เพื่อถอนการฟ้องร้องว่าได้รับการคุ้มครองโดยการแก้ไขครั้งแรก
ลูกชายของการ์เซียได้รับการแปลกจากชีวิตจริงเนื่องจากการพึ่งพา AI chatbots และยื่นฟ้องเพื่อเรียกร้องมาตรการรักษาความปลอดภัยมากขึ้น
ตัวละคร AI ยังต้องเผชิญกับการฟ้องร้องทางกฎหมายหลายคดีที่เกี่ยวข้องกับผู้ใช้วัยรุ่นรวมถึงการสอบสวนในเท็กซัส
กรณีของ AI ได้ก่อให้เกิดความคิดอย่างลึกซึ้งของผู้คนเกี่ยวกับจริยธรรมและกฎระเบียบของ AI ผลลัพธ์สุดท้ายของคดีนี้จะส่งผลกระทบอย่างลึกซึ้งต่อการพัฒนาอุตสาหกรรม AI