ล่าสุด Character.AI ซึ่งเป็นแพลตฟอร์มแชท AI ที่สนับสนุนโดย Google ประสบปัญหาการทำงานผิดพลาดร้ายแรง ทำให้เกิดความกังวลอย่างกว้างขวางในหมู่ผู้ใช้ ข้อผิดพลาดดังกล่าวทำให้เอาต์พุตของแชทบอทอ่านไม่ออก มีหลายภาษาปะปนกัน และมีคำที่ทำให้เกิดความสับสนและแม้แต่คำที่ชี้นำทางเพศ เช่น "ดิลโด้" ผู้ใช้จำนวนมากแชร์ภาพหน้าจอบน Reddit ซึ่งแสดงเรื่องไร้สาระที่สร้างโดย AI และคำสุ่ม เช่น "โอไฮโอ" "คณิตศาสตร์" และคำภาษาสลาฟ "obec" ความล้มเหลวนี้ไม่ใช่ครั้งแรกที่ Character.AI ประสบปัญหา ในเดือนธันวาคมปีที่แล้ว แพลตฟอร์มดังกล่าวมีการละเมิดความปลอดภัยอย่างร้ายแรง ทำให้บันทึกการแชทของผู้ใช้และข้อมูลส่วนบุคคลรั่วไหล การหยุดทำงานทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยของข้อมูลอีกครั้ง โดยเฉพาะอย่างยิ่งเมื่อมีผู้ใช้จำนวนมากสนทนาส่วนตัวบนแพลตฟอร์ม
ผู้ใช้รายหนึ่งกล่าวว่าการสนทนาปกตินั้นไร้ความหมายหลังจากผ่านไปหลายชั่วโมง เต็มไปด้วยคำศัพท์แบบสุ่มและการผสมผสานของหลายภาษา ภาพหน้าจอแสดงให้เห็นว่าข้อความที่สร้างโดย AI ค่อยๆ กลายเป็นคำพูดที่ไม่มีความหมาย โดยมีคำหลักซ้ำๆ เช่น "คาวบอย" "สถาปัตยกรรม" "ความแตกต่าง" และ "ผู้ว่าราชการ" แม้ว่า Character.AI ยังไม่ได้ตอบสนองต่อความล้มเหลวนี้ แต่เหตุการณ์นี้ก็เน้นย้ำถึงปัญหาด้านความเสถียรและความปลอดภัยของโมเดลภาษาขนาดใหญ่อีกครั้ง และยังเตือนนักพัฒนาถึงความจำเป็นในการเสริมสร้างการดูแลและบำรุงรักษาโมเดล AI เพื่อให้มั่นใจในความปลอดภัยของข้อมูลผู้ใช้ และพฤติกรรมการสนทนาตามปกติ
ไฮไลท์:
ข้อผิดพลาดดังกล่าวทำให้การสนทนาของแชทบอท Character.AI เกิดความสับสน โดยผู้ใช้รายงานว่ามีคำพูดที่ไม่มีความหมายปะปนกันในหลายภาษา
ผู้ใช้หลายคนแชร์ภาพหน้าจอของการสนทนาแปลกๆ ซึ่งมักเอ่ยถึงคำต่างๆ เช่น "ดิลโด้" ทำให้เกิดความสับสน
Character.AI เคยประสบปัญหาการละเมิดความปลอดภัยมาก่อน และความล้มเหลวนี้ทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยของข้อมูลอีกครั้ง
ความล้มเหลวของ Character.AI นี้ไม่เพียงส่งผลกระทบต่อประสบการณ์การใช้งานของผู้ใช้เท่านั้น แต่ยังเปิดโปงความเสี่ยงและความท้าทายที่อาจเกิดขึ้นจากโมเดลภาษาขนาดใหญ่อีกด้วย ในอนาคต แพลตฟอร์มที่คล้ายกันจำเป็นต้องเสริมสร้างการปรับปรุงทางเทคนิคและมาตรการรักษาความปลอดภัยเพื่อหลีกเลี่ยงเหตุการณ์ดังกล่าวไม่ให้เกิดขึ้นอีก และรักษาความปลอดภัยของข้อมูลผู้ใช้และประสบการณ์ผู้ใช้ที่ดี หวังว่า Character.AI จะสามารถแก้ไขปัญหาได้โดยเร็วที่สุด และให้คำอธิบายโดยละเอียดเกี่ยวกับสาเหตุของความล้มเหลว