최근 구글이 지원하는 AI 채팅 플랫폼 캐릭터.AI(Character.AI)에 심각한 오작동이 발생해 이용자 사이에 큰 우려가 제기됐다. 이 결함으로 인해 챗봇의 출력이 왜곡되고 여러 언어로 혼합되었으며 "딜도"와 같이 혼란스럽고 심지어 성적으로 암시적인 단어가 포함되었습니다. 많은 사용자가 "Ohio", "math" 및 슬라브어 "obec"과 같은 AI가 생성한 말도 안 되는 단어와 임의의 단어를 보여주는 스크린샷을 Reddit에 공유했습니다. Character.AI에 문제가 발생한 것은 이번 실패가 처음이 아닙니다. 지난해 12월 플랫폼에서 사용자 채팅 기록과 개인 정보가 유출되는 심각한 보안 침해가 발생했습니다. 이번 중단으로 인해 데이터 보안에 대한 우려가 다시 한번 제기되었습니다. 특히 많은 사용자가 플랫폼에서 사적인 대화를 나누기 때문입니다.
한 사용자는 평범한 대화가 몇 시간이 지나면 무작위 단어와 여러 언어가 혼합되어 의미가 없게 되었다고 말했습니다. 스크린샷은 AI가 생성한 텍스트가 '카우보이', '건축', '차이', '지사'와 같은 반복되는 키워드를 사용하여 점차 무의미한 횡설수설로 변하는 것을 보여줍니다. Character.AI는 아직 이 실패에 대응하지 않았지만 이번 사건은 다시 한번 대규모 언어 모델의 안정성과 보안 문제를 강조하고 개발자에게 사용자 데이터의 보안을 보장하기 위해 AI 모델의 감독 및 유지 관리를 강화해야 할 필요성을 상기시킵니다. . 그리고 정상적인 대화 수행.
하이라이트:
이 결함으로 인해 Character.AI 챗봇의 대화가 혼란스러워졌고 사용자는 여러 언어로 횡설수설을 신고했습니다.
몇몇 이용자들은 '딜도' 등의 단어를 자주 언급하며 이상한 대화의 스크린샷을 공유해 혼란을 야기했다.
Character.AI는 이전에 보안 침해를 경험한 적이 있으며, 이번 실패로 인해 데이터 보안에 대한 우려가 다시 제기되었습니다.
Character.AI의 이러한 실패는 사용자 경험에 영향을 미칠 뿐만 아니라 대규모 언어 모델의 잠재적인 위험과 과제도 노출했습니다. 앞으로 유사한 플랫폼은 이러한 사고가 다시 발생하지 않도록 방지하고 사용자 데이터 보안과 우수한 사용자 경험을 유지하기 위해 기술 개선 및 보안 조치를 강화해야 합니다. Character.AI에서 하루빨리 문제를 해결하고, 실패 원인에 대한 자세한 설명을 제공할 수 있기를 바랍니다.