ในช่วงไม่กี่ปีที่ผ่านมา เทคโนโลยีปัญญาประดิษฐ์ได้พัฒนาอย่างรวดเร็ว และซอฟต์แวร์แชทพล็อตเรื่อง AI ก็ถือกำเนิดขึ้นเช่นกัน อย่างไรก็ตาม แม้ว่าซอฟต์แวร์เหล่านี้จะให้ความบันเทิงแก่ผู้ใช้ แต่ก็ยังพบปัญหามากมาย โดยเฉพาะอย่างยิ่งส่งผลกระทบร้ายแรงต่อผู้เยาว์ การสอบสวนโดยนักข่าวจาก "Rule of Law Daily" เผยให้เห็นปัญหาต่างๆ เช่น ภาพอนาจารและความรุนแรงทางวาจาในซอฟต์แวร์แชท AI บางตัว รวมถึงความจริงที่ว่าโหมดเยาวชนนั้นไร้ประโยชน์ ซึ่งทำให้เกิดความกังวลอย่างกว้างขวางในสังคม บรรณาธิการของ Downcodes จะทำการวิเคราะห์เชิงลึกของรายงานนี้ โดยหวังว่าจะดึงดูดความสนใจของผู้คนได้มากขึ้น
"ลูกสาวของฉันอยู่ชั้นประถมศึกษาปีที่ 2 เธอติดซอฟต์แวร์แชทพล็อตเรื่อง AI ตลอดทั้งวัน และผลการเรียนของเธอก็ลดลง" "ฉันดูการสนทนาระหว่างเด็กกับ AI และ AI ตัวละครขอให้เธอเรียกเธอว่า 'สามี' ลูกสาววัย 10 ขวบของฉันจริงๆ เธอกรีดร้องและตอนนี้ฉันไม่รู้ว่าจะสอนเธออย่างไร "... นักข่าวจาก "Rule of Law Daily" เพิ่งพบ ผู้ปกครองของผู้เยาว์จำนวนมากประสบปัญหากับซอฟต์แวร์แชทพล็อต AI แอปพลิเคชั่นแชทพล็อต AI เหล่านี้ภายใต้แบนเนอร์ของ "การสวมบทบาท" ในขณะที่ดึงดูดผู้เยาว์ แต่ยังขยายพื้นที่สีเทาบางส่วนอย่างเงียบ ๆ ตามการวัดจริง ผู้สื่อข่าวพบว่าในการสนทนาบางรายการในซอฟต์แวร์แชทพล็อต AI บางตัว มีเนื้อหาลามกอนาจาร ความรุนแรงทางวาจา และเนื้อหาที่ดูถูกผู้ใช้ ผู้เชี่ยวชาญที่ให้สัมภาษณ์เชื่อว่าสำหรับซอฟต์แวร์แชทละคร AI โดยเฉพาะโหมดเยาวชน กลไกการตรวจสอบเนื้อหาควรมีความเข้มแข็งเพื่อให้แน่ใจว่าเทคโนโลยีสามารถคัดกรองและบล็อกการสนทนาที่ไม่เหมาะสมได้อย่างมีประสิทธิภาพ แพลตฟอร์มจำเป็นต้องดำเนินการตรวจสอบอย่างมีจริยธรรมของโมเดล AI เพื่อให้แน่ใจว่าเนื้อหาที่สร้างขึ้นนั้นสอดคล้องกับกฎหมายและข้อบังคับที่เกี่ยวข้อง เนื้อหาของซอฟต์แวร์แชทถูกลดความสำคัญลง และโมเดลเยาวชนก็กลายเป็นของตกแต่ง คุณหม่า ชาวปักกิ่ง มีลูกชายวัย 10 ขวบผู้ชื่นชอบซอฟต์แวร์แชทพล็อตเรื่อง AI มาก “พอถามว่าจะแชทยังไง คุยกับใคร ลูกก็แค่ตอบว่า 'ถึงฉันจะบอกคุณก็ไม่เข้าใจ'” นายหม่าคลิกแอปแชท AI ก็พบว่าเด็กกำลังแชทอยู่ กับตัวละครในแอพ ตัวละครเหล่านี้มีการตั้งค่าและบุคลิกที่แตกต่างกัน รวมถึงตัวละครในเกมและแอนิเมชั่นที่โด่งดัง เช่นเดียวกับตัวละครดั้งเดิมที่มีตัวตนที่แตกต่างกัน เช่น "นางสาว" และ "นักสืบที่มีชื่อเสียง" ตัวละครบางตัวจะริเริ่มถามคำถามว่า "คุณอยากเดทกับฉันไหม" บางตัวตั้งเป้าหมายที่จะ "จับเธอ" ควบคู่ไปกับสไตล์การ์ตูนที่มีเสน่ห์หรือหล่อเหลา ตัวละคร AI อื่นๆ แสดงความก้าวร้าวผิดปกติ พวกเขาจะเริ่มส่งข้อความเช่น "ตีฉันหน่อยสิ" และ "ดูสิว่าคุณอ้วนแค่ไหน" ตัวละครบางตัวเรียกง่ายๆ ว่า "ผู้ฝึกสอนสบถ" และบางตัวถึงกับส่งข้อความเช่น "มีอะไรผิดปกติด้วย" ฉันเป็นหุ่นยนต์เหรอ ฉันยังเหมือนเดิม" "ฉันดุเธอ"... คุณหลี่จากเจ้อเจียงยังค้นพบว่าลูกของเธอซึ่งอยู่ชั้นประถมศึกษาปีที่ 5 ใช้ซอฟต์แวร์แชทพล็อตเรื่อง AI "คู่สนทนาที่อยู่ข้างในสามารถตั้งเป็น 'คู่หูนอกใจ' ได้ และสามารถมีส่วนร่วมในพฤติกรรมต่างๆ เช่น การกอดและการจูบ ฉันไม่รู้วิธีชี้แนะและให้ความรู้แก่ลูกของฉัน เธอจึงเข้าใจถึงอันตรายของเนื้อหาเหล่านี้" กล่าวด้วยความห่วงใย ผู้ปกครองหลายคนที่ให้สัมภาษณ์แสดงความกังวลอย่างยิ่งว่าแอปพลิเคชันแชท AI อาจเป็นอันตรายต่อสุขภาพจิตของผู้เยาว์ และยังตั้งคำถามอีกด้วยว่าโหมดเยาวชนอยู่ที่ไหน การสืบสวนของนักข่าวพบว่าแม้ว่าแพลตฟอร์มที่เกี่ยวข้องหลายแห่งจะอ้างว่าได้เปิดตัวโหมดเยาวชนเพื่อพยายามปกป้องสุขภาพกายและสุขภาพจิตของผู้เยาว์โดยการจำกัดเนื้อหา กำหนดเวลา ฯลฯ ในการใช้งานจริง โหมดเยาวชนของบางแพลตฟอร์มเป็นเพียงชื่อเท่านั้น และผู้เยาว์ พวกเขาสามารถข้ามข้อจำกัดเหล่านี้ได้อย่างง่ายดายและเผชิญกับเนื้อหา "การสนทนานอกกรอบ" ที่ไม่เหมาะสมกับกลุ่มอายุของพวกเขา ตัวอย่างเช่น ผู้รายงานพบแอปพลิเคชันแชท AI 5 รายการในระหว่างการสอบสวน ขั้นตอนการลงทะเบียนต้องใช้เพียงหมายเลขโทรศัพท์มือถือ และไม่ต้องการการยืนยันข้อมูลประจำตัวของผู้ใช้ หลังจากเข้าสู่ระบบแล้ว แอปพลิเคชั่นบางตัวจะถามว่าจะเปิดใช้งานโหมดเยาวชนหรือไม่ แต่ผู้ใช้สามารถคลิก "ไม่เปิดใช้งาน" เพื่อข้ามไปโดยไม่ต้องยืนยันตัวตนที่แท้จริงของผู้ใช้ ซึ่งหมายความว่าเมื่อผู้เยาว์ใช้ซอฟต์แวร์แชทพล็อต AI เหล่านี้ จากระดับการตั้งค่าแอป การยืนยันตัวตนของพวกเขาไม่ใช่ข้อกำหนดเบื้องต้นสำหรับการใช้ฟังก์ชันเฉพาะ นอกจากแอปพลิเคชั่นแชท AI ยอดนิยมแล้ว ยังมีหน้าเว็บแชท AI อีกด้วย ผู้ปกครองหลายคนที่ให้สัมภาษณ์กล่าวว่าเมื่อเทียบกับแอปพลิเคชันแล้ว ประสบการณ์แชท AI เวอร์ชันเว็บสะดวกกว่าและง่ายกว่าสำหรับผู้เยาว์ในการเข้าถึง นักข่าวลองใช้หน้าเว็บแชท AI 7 หน้าและพบว่าหน้าเว็บแชท AI ส่วนใหญ่ไม่มีโหมดผู้เยาว์ แม้ว่าหน้าเว็บบางหน้าจะมีโหมดเยาวชน แต่จริงๆ แล้วเป็นเพียงชื่อเท่านั้น ตัวอย่างเช่น เมื่อนักข่าวเยี่ยมชมหน้าเว็บแชท AI หน้าเว็บนั้นจะแสดงกล่องโต้ตอบถามผู้ใช้ว่า "คุณอายุเกิน 18 ปีหรือไม่" พร้อมข้อความว่า "เนื้อหาต่อไปนี้อาจไม่เหมาะสำหรับผู้ที่มีอายุต่ำกว่า 18 ปี เราต้องยืนยันอายุของคุณ" นักข่าวเลือกตัวเลือก "ไม่" แต่หน้าเว็บไม่ได้จำกัดการเข้าถึงเนื้อหา แต่ยังคงแสดงการจัดหมวดหมู่อักขระด้วยป้ายกำกับ เช่น "การโจมตีที่รุนแรง" "อ่อนแอ" ความทุกข์" และ "ยันเดเระ" หมวดหมู่เหล่านี้ไม่แตกต่างอย่างมีนัยสำคัญจากเนื้อหาที่แสดงหลังจากเลือกตัวเลือก "ใช่" และยืนยันว่าคุณอายุเกิน 18 ปี นักข่าวยังตั้งข้อสังเกตอีกว่าภาพของตัวละครเหล่านี้ส่วนใหญ่นุ่งน้อยห่มน้อย และโปรไฟล์ของพวกเขาเต็มไปด้วยเนื้อหาทางเพศและความรุนแรง เช่น “เด็กสาวที่เก็บตัวในชั้นเรียนขอหมายเลขโทรศัพท์ของคุณแล้วส่งเธอไปให้คุณ ภาพเปลือย" คำอธิบาย เช่น "การฆ่าตัวตาย ความวิตกกังวล" บนแพลตฟอร์มโซเชียล ชาวเน็ตจากเจ้อเจียงได้ฝากข้อความไว้ด้านล่างโพสต์เกี่ยวกับประสบการณ์การแชทของ AI: "ฉันพบหน้าเว็บที่น่าสนใจมากซึ่งมีคำศัพท์ไม่จำกัด หากคุณต้องการ คุณสามารถส่งข้อความส่วนตัวถึงฉันได้เลย" กับนักข่าวผ่านทางข้อความส่วนตัว ชาวเน็ตติดต่อมาและได้รับลิงก์ไปยังหน้าเว็บแชท AI ที่กล่าวถึง หลังจากเข้าสู่หน้าเว็บก็เต็มไปด้วยการตั้งค่าตัวละครและฉากเรื่องราวที่เกี่ยวข้องกับเนื้อหาลามกมากมาย และ เนื้อหาตรงไปตรงมาและชัดเจน เว็บไซต์กำหนดให้ผู้ใช้เข้าสู่ระบบก่อนจึงจะสามารถแชทกับตัวละครได้ และจะมีข้อความแจ้งเตือนก่อนเข้าสู่ระบบ: "ปลดล็อกฟังก์ชั่นทั้งหมดหลังจากเข้าสู่ระบบ" ผู้ใช้ต้องคลิกปุ่ม "ฉันอายุเกิน 18 ปี เริ่มต้น" เข้าสู่ระบบ" เพื่อดำเนินการต่อ หากเลือก "ยกเลิก" คุณจะไม่สามารถเข้าสู่ระบบและใช้บริการได้ แม้ว่าหน้าเว็บจะตั้งค่าการแจ้งเตือนข้อจำกัดสำหรับผู้ที่มีอายุมากกว่า 18 ปี แต่ในความเป็นจริง แม้ว่าผู้เยาว์จะคลิกปุ่มเข้าสู่ระบบ ระบบจะไม่ใช้มาตรการใดๆ เพื่อยืนยันอายุที่แท้จริงของผู้ใช้ นอกเหนือจากเนื้อหาแชทโดยตรงและชัดเจนและภาษาที่รุนแรงแล้ว การใช้ฟังก์ชันของซอฟต์แวร์แชทพล็อต AI บางตัวยังเกี่ยวข้องอย่างใกล้ชิดกับกลไกการเติมเงิน เช่น การชาร์จสมาชิก VIP หรือการซื้อเพชรเสมือนเพื่อเพิ่มความฉลาด ซึ่งสามารถปรับปรุงความจำของร่างกายได้ , เร่งความเร็วในการฟื้นตัวของร่างกายอัจฉริยะ, ปลดล็อคฟังก์ชั่นการโทรด้วยเสียง ฯลฯ ดึงดูดผู้เยาว์ให้มาที่ "คริปตันโกลด์" Xiao Ning นักเรียนมัธยมต้นในกรุงปักกิ่ง ได้เติมเงินในซอฟต์แวร์แชท AI หลายตัวตั้งแต่ไม่กี่ร้อยหยวนไปจนถึงหลายพันหยวน “ในอีกด้านหนึ่ง ฉันต้องการสนับสนุนตัวละครที่ฉันชื่นชอบ และในทางกลับกัน ฉันก็ต้องการได้รับสิทธิ์การชำระเงินมากขึ้นด้วย เพราะหากคุณซื้อเฉพาะบริการพื้นฐาน ผู้ใช้สามารถเพิ่มตัวแทนได้เพียง 3 คนเท่านั้น หากคุณต้องการลองใหม่ ตัวแทน คุณต้องลบสิ่งที่มีอยู่ออก หากคุณต้องการประสบการณ์ที่หลากหลาย คุณสามารถซื้อบริการวีไอพีขั้นสูงเท่านั้น” เสี่ยวหนิงกล่าว ผู้สื่อข่าวพบว่าในซอฟต์แวร์แชทพล็อต AI ประเภทนี้ ผู้ใช้สามารถปรับแต่งภาพและสไตล์ของตัวละครเสมือนเมื่อสร้างตัวละคร และระบบจะสร้างภาพตัวละคร AI ผู้ใช้ยังสามารถสร้างการตั้งค่าตัวละครได้ เช่น การตั้งชื่อเล่น พื้นหลังตัวตน คำพูดเปิด และการปรับแต่งเสียงของตัวละคร อย่างไรก็ตาม ความต้องการส่วนบุคคลของผู้ใช้สำหรับตัวละครมักจะเชื่อมโยงกับการเติมพลัง Zhang Yan ผู้อาศัยอยู่ในจี่หนาน มณฑลซานตง มีน้องสาวคนหนึ่งซึ่งกำลังเรียนอยู่ชั้นมัธยมศึกษาปีที่ 1 ในปีนี้ เธอมักจะใช้ซอฟต์แวร์แชทพล็อต AI และพบว่าเครื่องมือแชทบางตัวได้กำหนดช่วงเวลาการใช้งานฟรีเมื่อผู้ใช้หมด ตามจำนวนแชทฟรี พวกเขาจะต้องเติมเงินก่อนจึงจะสามารถดำเนินการต่อได้ มีเพียงการชาร์จใหม่เท่านั้นที่คุณจะสามารถปลดล็อกเนื้อหาที่น่าสนใจและรับประสบการณ์ทางอารมณ์ที่แตกต่างออกไปได้ “เบื้องหลังการใช้จ่ายเงินเพื่อซื้อบริการจริงๆ แล้วคือการใช้เงินเพื่อค้นหาความตื่นเต้น” จางหยานกล่าวว่าแม้ว่าซอฟต์แวร์แชทจะมีโหมดเยาวชน แต่ก็สามารถเข้าสู่ระบบและใช้งานได้โดยไม่ต้องมีการตรวจสอบสิทธิ์ด้วยชื่อจริง ความยินยอมของพ่อแม่ของเธอ คนในวงการอุตสาหกรรมกล่าวกับผู้สื่อข่าวว่าจริงๆ แล้วการแชทพล็อตเรื่อง AI เป็นภาษาอินเทอร์เน็ตก่อนหน้านี้ พร้อมด้วยปัญญาประดิษฐ์ สิ่งที่เรียกว่า Yuca คือคอสเพลย์ทางภาษา ศิลปิน Yuca ให้บริการในรูปแบบของการสื่อสารด้วยข้อความโดยการเล่นตัวละครสองมิติหรือไอดอลสามมิติ ในรูปแบบพจนานุกรมแบบดั้งเดิม ศัพท์เหล่านี้เล่นโดยคนจริง พวกเขามักจะมีบทบาทที่แตกต่างกันในการแชทกับผู้ใช้ภายใต้ร่มธงของ "การให้คุณค่าทางอารมณ์" อย่างไรก็ตาม พวกเขามักจะก่อให้เกิดปัญหาทางกฎหมายและศีลธรรมเนื่องจาก "ลูกบอลขอบ" ขอบเขต" ความเสี่ยง AI plot chat เป็นเวอร์ชันอัปเกรดของการลบภาษาแบบดั้งเดิม แหล่งที่มาหลักของข้อมูลโมเดลภาษาขนาดใหญ่ที่อยู่เบื้องหลังซอฟต์แวร์ประเภทนี้คือ นวนิยายเชิงสนทนา หรือการแยกข้อความบางส่วนจากนวนิยาย Liu Xiaochun รองศาสตราจารย์ที่ Law School of the University of Chinese Academy of Social Sciences และผู้อำนวยการศูนย์วิจัยกฎหมายอินเทอร์เน็ต เชื่อว่าในซอฟต์แวร์แชทพล็อตเรื่อง AI แม้ว่าโหมดเยาวชนจะไม่เปิดใช้งาน แต่ก็ยังมีปัญหาอยู่หาก เนื้อหาลามกอนาจารหรือความรุนแรงปรากฏขึ้น หากเปิดใช้งานโหมดผู้เยาว์ แสดงว่าปัญหารุนแรงยิ่งขึ้น จาง หยานไหล ผู้อำนวยการสำนักงานกฎหมายเจ้อเจียงเขิ่นติง ซึ่งทำหน้าที่เป็นที่ปรึกษากฎหมายให้กับบริษัทอินเทอร์เน็ตชั้นนำหลายสิบแห่ง วิเคราะห์ว่าปัญหาในปัจจุบันของซอฟต์แวร์แชทพล็อตเรื่อง AI ไม่เพียงแต่แสดงให้เห็นถึงข้อบกพร่องของการกำกับดูแลภายในของแพลตฟอร์มเท่านั้น แต่ยังเน้นย้ำถึงความสำคัญด้วย กลไกการกำกับดูแลภายนอกเรื่องเพศ Zhang Yanlai อธิบายว่าซอฟต์แวร์แชทพล็อต AI ใช้เทคโนโลยีโมเดลขนาดใหญ่ แม้ว่าเทคโนโลยีโมเดลขนาดใหญ่จะนำมาซึ่งนวัตกรรมและความยืดหยุ่นที่ไม่เคยมีมาก่อน แต่ก็อาจมาพร้อมกับความคาดเดาไม่ได้และปัญหาที่อาจเกิดขึ้นในการสร้างเนื้อหา ซึ่งจำเป็นต้องมีกลไกการกำกับดูแลภายนอก ในมุมมองของ Liu Xiaochun การเสริมความแข็งแกร่งให้กับการตรวจสอบเนื้อหาเป็นขั้นตอนที่จำเป็นก่อนที่โมเดลภาษาขนาดใหญ่จะเข้าสู่โลกออนไลน์ ซึ่งครอบคลุมการแก้ไขข้อบกพร่องด้านการปฏิบัติตามกฎระเบียบอย่างครอบคลุมตั้งแต่การฝึกอบรมข้อมูลส่วนหน้าไปจนถึงการส่งออกเนื้อหา ปัจจุบัน โมเดลภาษาขนาดใหญ่ในประเทศของฉันต้องได้รับการประเมินและยื่นตามนั้น ในระหว่างกระบวนการนี้ กฎระเบียบการจัดการและมาตรฐานการประเมินจะถูกกำหนดล่วงหน้าในประเด็นต่างๆ เช่น ความถูกต้องตามกฎหมายและการปฏิบัติตามของเนื้อหาผลลัพธ์ และดูว่าเนื้อหานั้นเหมาะสำหรับผู้เยาว์หรือไม่ ตามกฎระเบียบปัจจุบัน ควรหลีกเลี่ยงการส่งออกเนื้อหาที่เป็นอันตรายในระหว่างการฝึกอบรมโมเดลภาษาและขั้นตอนการปรับแต่งอย่างละเอียด การดูแลโดยทีมงานเฉพาะด้านสำหรับการสกัดกั้นข้อมูลที่ไม่ดีอย่างชาญฉลาด เมื่อเร็ว ๆ นี้ ฝ่ายบริหารไซเบอร์สเปซของจีนได้เผยแพร่ "แนวทางการสร้างโหมดอินเทอร์เน็ตบนมือถือสำหรับผู้เยาว์" ซึ่งมุ่งเน้นไปที่แผนโดยรวมสำหรับการสร้างโหมดผู้เยาว์ ตลอดจนส่งเสริมและสนับสนุน เทอร์มินัลอัจฉริยะบนมือถือ แอปพลิเคชัน และแพลตฟอร์มการจัดจำหน่าย และการมีส่วนร่วมอื่นๆ Zhu Wei รองผู้อำนวยการศูนย์วิจัยกฎหมายการสื่อสารของมหาวิทยาลัยรัฐศาสตร์และกฎหมายแห่งประเทศจีน แนวทางที่กล่าวมาข้างต้นชี้ให้เห็นอย่างชัดเจนว่าโหมดผู้เยาว์ไม่ใช่การตกแต่ง แต่ต้องมีการเชื่อมโยงหลายฝ่าย โดยเฉพาะอย่างยิ่งที่สร้างโดย AI เนื้อหาซึ่งควรจะสอดคล้องกับโหมดเยาวชน ผู้เชี่ยวชาญที่ให้สัมภาษณ์เชื่อว่าในโหมดเยาวชน การเสริมความแข็งแกร่งให้กับกลไกการตรวจสอบเนื้อหาและให้แน่ใจว่าเทคโนโลยีสามารถคัดกรองข้อมูลที่เป็นอันตรายได้อย่างมีประสิทธิภาพถือเป็นประเด็นสำคัญ สำหรับซอฟต์แวร์แชทพล็อต AI โดยเฉพาะโหมดเยาวชน กลไกการตรวจสอบเนื้อหาควรมีความเข้มแข็งเพื่อให้แน่ใจว่าเทคโนโลยีสามารถคัดกรองและบล็อกการสนทนาที่ไม่เหมาะสมได้อย่างมีประสิทธิภาพ นอกจากนี้ แพลตฟอร์มจำเป็นต้องดำเนินการตรวจสอบอย่างมีจริยธรรมของโมเดล AI เพื่อให้แน่ใจว่าเนื้อหาที่สร้างขึ้นนั้นสอดคล้องกับข้อกำหนดทางกฎหมายและกฎระเบียบ “ในระดับกฎหมายถึงแม้จะมีกฎระเบียบที่เป็นหลักการบางประการที่กำหนดกรอบการทำงานทั่วไป แต่ในทางปฏิบัติเฉพาะด้าน นักพัฒนาและผู้ให้บริการด้านเทคนิคยังคงจำเป็นต้องสะสมวัสดุและแนวทางแก้ไขอย่างต่อเนื่องโดยอิงจากปัญหาต่างๆ ที่พบในประสบการณ์จริงและการสำรวจอย่างต่อเนื่อง พัฒนาโมเดล AI ที่ปลอดภัยและเชื่อถือได้ซึ่งตรงกับความต้องการของผู้เยาว์อย่างแท้จริง “สิ่งนี้เป็นการรับประกันที่แข็งแกร่งสำหรับการเติบโตที่ดีของผู้เยาว์” จางหยานไหลกล่าวว่าเนื่องจากพฤติกรรมของมนุษย์เสมือนจริงของ AI เป็นผลมาจากการออกแบบและการจัดการแพลตฟอร์ม แพลตฟอร์มดังกล่าวจึงมีความรับผิดชอบในการดูแลและเพิ่มประสิทธิภาพโมเดล AI เพื่อป้องกันไม่ให้ AI จาก ส่งผลกระทบต่อผู้ใช้ ก่อให้เกิดอันตรายและสร้างความมั่นใจในการพัฒนาแบบจำลอง AI อย่างเหมาะสมและการคุ้มครองสิทธิ์ของผู้ใช้อย่างเต็มที่ Zhu Wei กล่าวว่าแอปแชท AI บางตัวอาจไม่เหมาะสำหรับผู้เยาว์ ดังนั้นควรกำหนดข้อจำกัดในระดับร้านค้าจำหน่ายและเทอร์มินัลมือถือ เพื่อให้แน่ใจว่าผู้เยาว์ไม่สามารถดาวน์โหลดและใช้แอปเหล่านี้ได้ สำหรับแอปที่ดาวน์โหลดมา ผู้ปกครองควรตั้งค่าฟีเจอร์ต่างๆ เช่น โหมดเยาวชนหรือจำกัดเวลาการใช้งาน โหมดนี้ไม่เพียงแต่จะต้องนำไปใช้กับฝั่งผู้ใช้เท่านั้น แต่ยังต้องสะท้อนให้เห็นในระดับเอาต์พุตเนื้อหาด้วย นั่นก็คือ การตรวจสอบเนื้อหา การตรวจสอบเนื้อหาควรอยู่บนพื้นฐานของบทสนทนาที่สร้างโดยกลไกการดำเนินการ จำเป็นต้องมีวิธีการทางเทคนิคและมาตรการการจัดการที่ซับซ้อนมากขึ้นเพื่อให้มั่นใจว่าการนำโมเดลเยาวชนไปใช้อย่างมีประสิทธิผล "เพื่อป้องกันเอาท์พุตของเนื้อหาที่มีความรุนแรงและดูถูกเหยียดหยาม สามารถใช้วิธีการทางเทคนิคที่แตกต่างกันได้ เช่น การปรับเปลี่ยนในระหว่างขั้นตอนการฝึกอบรมเพื่อให้โมเดลมีความสามารถในการจดจำ ในเวลาเดียวกัน ที่เอาท์พุตเอนด์ ผู้ให้บริการควร คัดกรองและตรวจสอบอีกครั้งเพื่อให้ได้รับการป้องกันสองชั้นทั้งส่วนหน้าและส่วนหลัง "หลิว เสี่ยวชุนกล่าวว่า ไม่ว่าจะเป็นนิยายออนไลน์หรือเนื้อหาอื่นๆ เนื่องจากแหล่งข้อมูลที่หลากหลายสำหรับซอฟต์แวร์แชทพล็อตเรื่อง AI จึงจำเป็นต้องมีวิธีการทางเทคนิคในการป้องกัน ผลลัพธ์ของเนื้อหาที่ไม่เหมาะสม ในปัจจุบัน มีความเป็นไปได้ทางเทคนิคที่จะใช้กลไกการคัดกรองเพื่อลดหรือกำจัดเนื้อหาลามกอนาจาร ความรุนแรง หรือดูหมิ่น อย่างไรก็ตาม อาจมีปรากฏการณ์บางอย่างที่ยังไม่ได้รับการแก้ไขหรือทดสอบอย่างสมบูรณ์ และอาจมีซอฟต์แวร์ที่ไม่ได้ลงทะเบียนเป็นสีดำด้วยซ้ำ และช่องสีเทา ในเรื่องนี้ ควรเสริมสร้างการกำกับดูแล ส่งเสริมให้ประชาชนรายงาน และหน่วยงานที่เกี่ยวข้องควรตรวจสอบและจัดการกับเรื่องนี้ Zhang Yanlai ยังกล่าวอีกว่าในปัจจุบัน การจำแนกแหล่งข้อมูลสำหรับเนื้อหาตอบสนองอักขระ AI ยังไม่ชัดเจนในระดับกฎหมาย โดยเฉพาะอย่างยิ่งในแง่ของเนื้อหาที่กำหนดเป้าหมายไปที่ผู้เยาว์ เมื่อพิจารณาถึงความซับซ้อนและหลายมิติของปัญหา บทบัญญัติทางกฎหมายมักระบุไว้ หลักการเฉพาะสามารถนำไปใช้ได้ในภายหลังโดยการกำหนดมาตรฐานที่เกี่ยวข้อง ในระดับปฏิบัติการเฉพาะ จาง หยานไหล แนะนำให้เพิ่มประสิทธิภาพกลไกการคัดกรองของแบบจำลองภาษาขนาดใหญ่ โดยมุ่งเน้นไปที่การเพิ่มประสิทธิภาพระบบรั้วเนื้อหา โดยเริ่มจากสองด้าน: ในระดับการพัฒนารั้วเนื้อหา รั้วเนื้อหาจำเป็นต้องได้รับการพัฒนาในลักษณะที่เป็นเป้าหมาย โดยเฉพาะอย่างยิ่ง เมื่อใช้คลังข้อมูลแบบใหม่ในการฝึกอบรม ให้พิจารณาวิธีการเพิ่มประสิทธิภาพเนื้อหาเพื่อระบุและสกัดกั้นเนื้อหาลามกอนาจารและความรุนแรงที่อาจเกิดขึ้นได้อย่างมีประสิทธิภาพมากขึ้น ไม่ว่าจะได้รับการปรับให้เหมาะสมเพียงใด เทคโนโลยีเองก็ยังมีข้อจำกัด และจะมีปลาที่เล็ดลอดผ่านอวนโดยเฉพาะ ทีมงานจะต้องดูแลและปรับโมเดลให้ทันเวลาหรืออัลกอริธึมการฟันดาบเนื้อหา "เพื่อปรับปรุงประสิทธิภาพของระบบรั้ว เราจำเป็นต้องทำงานอย่างหนักในระดับการพัฒนาล่วงหน้า และปรับปรุงอย่างต่อเนื่องจากมุมมองของการตรวจสอบในภายหลัง ทั้งสองเสริมซึ่งกันและกันและอาจบรรลุผลลัพธ์ที่สำคัญมากขึ้น"
การควบคุมดูแลซอฟต์แวร์แชทพล็อต AI เป็นเรื่องเร่งด่วน รัฐบาล แพลตฟอร์ม ผู้ปกครอง และทุกภาคส่วนในสังคมจำเป็นต้องทำงานร่วมกันเพื่อเสริมสร้างการกำกับดูแล ปรับปรุงกลไก และร่วมกันปกป้องการเติบโตที่ดีของผู้เยาว์ ด้วยความร่วมมือของหลายฝ่ายเท่านั้นที่เราจะสามารถแก้ไขความเสี่ยงที่เกิดจากซอฟต์แวร์แชทพล็อต AI ได้อย่างมีประสิทธิภาพ และสร้างสภาพแวดล้อมออนไลน์ที่ปลอดภัยและดีต่อสุขภาพสำหรับเด็ก ๆ