近日，谷歌支持的AI聊天平台Character.AI发生严重故障，引发用户广泛关注。故障导致聊天机器人输出内容混乱，出现多种语言混合，并包含令人费解的、甚至带有性暗示的词语，例如“dildo”。许多用户在Reddit上分享了截图，展示了AI生成的无意义内容和随机单词，例如“俄亥俄州”、“数学”以及斯拉夫语单词“obec”。此次故障并非Character.AI首次出现问题，去年12月该平台曾发生严重安全漏洞，泄露用户聊天记录和个人信息。此次故障再次引发人们对其数据安全性的担忧，尤其是在许多用户在平台上进行私密对话的情况下。
一位用户表示，原本正常的对话在数小时后变得毫无意义，充满了随机的单词和多种语言的混合。截图显示，AI生成的文本逐渐演变为无意义的胡言乱语，并反复出现一些关键词，例如“牛仔”、“建筑”、“差异”和“州长”。虽然Character.AI尚未对此次故障作出回应，但这一事件再次凸显了大型语言模型的稳定性和安全性问题，也提醒开发者需要加强对AI模型的监管和维护，以确保用户数据的安全和对话的正常进行。
划重点：
故障使 Character.AI 聊天机器人的对话内容变得混乱不堪，用户反映出现多种语言混合的胡言乱语。
多位用户分享了奇怪对话的截图，频繁提及 “dildo” 等词语，引发众人困惑。
Character.AI 此前曾发生安全漏洞事件，此次故障再次引发对数据安全的担忧。
Character.AI 的此次故障不仅影响了用户体验，也暴露出大型语言模型潜在的风险和挑战。未来，类似平台需要加强技术改进和安全措施，以避免此类事件再次发生，维护用户数据安全和良好的使用体验。希望Character.AI能够尽快解决问题，并对故障原因进行详细说明。