近日，Google支援的AI聊天平台Character.AI發生嚴重故障，引發用戶廣泛關注。故障導致聊天機器人輸出內容混亂，出現多種語言混合，並包含令人費解的、甚至帶有性暗示的詞語，例如“dildo”。許多用戶在Reddit上分享了截圖，展示了AI生成的無意義內容和隨機單詞，例如“俄亥俄州”、“數學”以及斯拉夫語單詞“obec”。這次故障並非Character.AI首次出現問題，去年12月該平台曾發生嚴重安全漏洞，洩漏用戶聊天記錄和個人資訊。這次故障再次引發人們對其資料安全性的擔憂，尤其是在許多用戶在平台上進行私密對話的情況下。
一位用戶表示，原本正常的對話在幾個小時後變得毫無意義，充滿了隨機的單字和多種語言的混合。截圖顯示，AI生成的文本逐漸演變為無意義的胡言亂語，並反覆出現一些關鍵字，例如「牛仔」、「建築」、「差異」和「州長」。雖然Character.AI尚未對此故障作出回應，但這一事件再次凸顯了大型語言模型的穩定性和安全性問題，也提醒開發者需要加強對AI模型的監管和維護，以確保用戶資料的安全和對話的正常進行。
底線重點：
故障使Character.AI 聊天機器人的對話內容變得混亂不堪，使用者反映出現多種語言混合的胡言亂語。
多位用戶分享了奇怪對話的截圖，頻繁提及「dildo」 等詞語，引發眾人困惑。
Character.AI 先前曾發生安全漏洞事件，這次故障再次引發對資料安全的擔憂。
Character.AI 的這次故障不僅影響了使用者體驗，也暴露出大型語言模型潛在的風險和挑戰。未來，類似平台需要加強技術改進和安全措施，以避免此類事件再次發生，維護用戶資料安全和良好的使用體驗。希望Character.AI能夠盡快解決問題，並對故障原因進行詳細說明。