O personagem AI enfrenta ações judiciais sobre seu chatbot supostamente fazendo com que um garoto de 14 anos cometesse suicídio. Os pais do demandante acusaram a plataforma de não regular efetivamente seu chatbot de AI "Dany", fazendo com que seu filho se tornasse viciado no mundo virtual e, eventualmente, cometer suicídio. O personagem AI refutou que sua plataforma é protegida pela Primeira Emenda e acreditava que o autor pretende fechar a plataforma e promover uma legislação relevante, que terá um impacto negativo em toda a indústria generativa de IA.
O personagem AI, uma plataforma que permite que os usuários interpretem a AI Chatbots, entrou recentemente com uma ação movida por um pai adolescente no Tribunal Distrital do Distrito Central dos EUA, na Flórida. A mãe Megan Garcia acusou a AI de sua tecnologia que machucou seu filho de 14 anos, Sewell Setzer III, dizendo que gradualmente ficou isolada do mundo real e acabou levando ao suicídio quando se comunicou com um chatbot chamado "Dany".
Após a morte de Setzer, o personagem AI disse que lançaria uma variedade de recursos de segurança para melhorar os recursos de detecção e intervenção no conteúdo do bate -papo que viola os termos de serviço. No entanto, Garcia espera que a plataforma possa impor restrições mais rigorosas, como proibir chatbots de contar histórias e compartilhar anedotas pessoais.
Em seu pedido de rejeição, a equipe jurídica do personagem AI argumentou que a plataforma estava protegida pela Primeira Emenda, alegando que os direitos de seus usuários à liberdade de expressão serão violados. Os documentos legais afirmam que, embora este caso envolva o diálogo gerado pela IA, isso não é substancial diferente dos casos anteriores envolvendo empresas de mídia e tecnologia.
Vale ressaltar que a defesa do personagem AI não envolve a aplicabilidade da Seção 230 da Lei de Ética em Comunicações, que fornece proteções para mídias sociais e outras plataformas on-line da responsabilidade por conteúdo de terceiros. Embora os redatores do projeto de lei impliquem que a disposição não protegesse o conteúdo gerado pela IA, o problema é inconclusivo.
Os advogados da personagem AI também disseram que a verdadeira intenção de Garcia era "fechar" a plataforma e promover a legislação sobre tecnologias semelhantes. Se o processo for bem -sucedido, terá um "efeito assustador" na IA do personagem e em toda a indústria emergente de IA generativa.
Atualmente, o personagem AI está enfrentando vários processos focados em como os menores interagem com o conteúdo gerado em sua plataforma, incluindo um caso alegando que a plataforma mostrou "conteúdo hipergênico" para crianças de 9 anos, e outro acusou de causar 17 anos- Usuários antigos para se machucarem.
O procurador -geral do Texas, Ken Paxton, também anunciou uma investigação sobre o personagem IA e 14 outras empresas de tecnologia, acusando -as de violar as leis estaduais para proteger a privacidade e a segurança on -line das crianças. O caráter AI faz parte do setor de aplicativos companheiro de IA em rápido crescimento, e os impactos na saúde mental nessa área não foram totalmente estudados.
Apesar de vários desafios, a IA do personagem está constantemente introduzindo novas ferramentas de segurança e tomando medidas para proteger os usuários menores de idade, como lançar modelos de IA adolescentes separados e restrições ao conteúdo sensível.
O resultado final deste caso terá um profundo impacto no desenvolvimento futuro da indústria generativa de IA e também destacará a necessidade urgente de ética em tecnologia de IA e supervisão de segurança. Todas as partes precisam trabalhar juntas para encontrar um equilíbrio entre o progresso tecnológico e a responsabilidade social.