AI 캐릭터 AI는 챗봇에 대한 소송에 직면하여 14 살짜리 아이가 자살을 일으킨다. 원고의 부모님은 AI 챗봇“Dany”를 효과적으로 규제하지 못한 플랫폼을 비난하여 아들이 가상 세계에 중독되어 결국 자살을 저지른다는 비난을 받았습니다. 캐릭터 AI는 자사의 플랫폼이 제 1 차 수정안에 의해 보호되고 원고가 플랫폼을 폐쇄하고 관련 법안을 촉진 할 계획이라고 믿었으며, 이는 전체 생성 AI 산업에 부정적인 영향을 미칠 것입니다.
AI 챗봇으로 사용자가 롤 플랫폼을 할 수있는 플랫폼 인 캐릭터 AI는 최근 플로리다 주 중앙 지구의 미국 지방 법원에서 10 대 부모가 제기 한 소송을 제기했습니다. 부모 인 메간 가르시아 (Megan Garcia)는 14 살짜리 아들 세웰 세저 III를 해친 기술에 대해 캐릭터 AI를 비난하면서 그녀는 점차 현실 세계에서 격리되어 결국 "Dany"라는 챗봇과 의사 소통을했을 때 자살을 일으켰다 고 말했다.
Setzer가 사망 한 후 캐릭터 AI는 서비스 약관을 위반하는 채팅 컨텐츠의 탐지 및 중재 기능을 향상시키기 위해 다양한 보안 기능을 시작할 것이라고 밝혔다. 그러나 Garcia는 플랫폼이 이야기를하는 것을 금지하고 개인적인 일화를 공유하는 것과 같은 더 엄격한 제한을 부과 할 수 있기를 희망합니다.
거부 응용 프로그램에서 캐릭터 AI의 법무 팀은 플랫폼이 제 1 차 수정안에 의해 보호되었다고 주장하면서 사용자의 언론의 자유에 대한 사용자의 권리가 위반 될 것이라고 주장했다. 법률 문서에 따르면이 경우에는 AI 생성 대화가 포함되지만 미디어 및 기술 회사와 관련된 이전 사례와 크게 다르지 않습니다.
캐릭터 AI의 방어에는 Communications Ethics Act 제 230 조의 적용 가능성이 포함되어 있지 않으며, 이는 소셜 미디어 및 기타 온라인 플랫폼에 대한 제 3 자 콘텐츠의 책임으로부터 보호를 제공합니다. 이 법안의 초안은이 조항이 AI 생성 된 컨텐츠를 보호하지 않았 음을 암시했지만,이 문제는 결정적이지 않습니다.
AI 캐릭터 변호사는 또한 가르시아의 진정한 의도는 플랫폼을“폐쇄”하고 유사한 기술에 대한 법률을 홍보하는 것이라고 말했다. 소송이 성공하면 캐릭터 AI 및 전체 신흥 생성 AI 산업에 "냉담한 효과"가 나타납니다.
현재 캐릭터 AI는 플랫폼이 9 살짜리에 "초 유전자 컨텐츠"를 보여 주었다고 주장하는 한 사례를 포함하여 미성년자가 플랫폼에서 생성 된 컨텐츠와 상호 작용하는 방법에 중점을두고 있으며 17 세를 유발했다고 비난하는 여러 소송에 중점을두고 있습니다. 오래된 사용자는 스스로 해를 끼칠 수 있습니다.
텍사스 법무 장관 Ken Paxton은 또한 AI 및 14 개의 다른 기술 회사에 대한 조사를 발표하여 어린이의 온라인 개인 정보 및 보안을 보호하기 위해 주법을 위반했다고 비난했습니다. 캐릭터 AI는 빠르게 성장하는 AI 동반자 응용 산업의 일부 이며이 분야의 정신 건강 영향은 완전히 연구되지 않았습니다.
다양한 과제에도 불구하고 캐릭터 AI는 지속적으로 새로운 보안 도구를 도입하고 별도의 십대 AI 모델을 시작하고 민감한 콘텐츠에 대한 제한과 같은 미성년자 사용자를 보호하기위한 조치를 취하고 있습니다.
이 사례의 최종 결과는 발전 AI 산업의 미래 개발에 큰 영향을 미치며 AI 기술 윤리 및 보안 감독에 대한 긴급한 요구를 강조 할 것입니다. 모든 당사자는 기술 진보와 사회적 책임 사이의 균형을 찾기 위해 함께 협력해야합니다.