Le caractère AI fait face à des poursuites sur son chatbot, ce qui a entraîné un spiritual de 14 ans à se suicider. Les parents du demandeur ont accusé la plate-forme de ne pas avoir régulé efficacement son chat de chat IA «Dany», ce qui fait que son fils devient accro au monde virtuel et finit par se suicider. Le caractère IA a réfuté que sa plate-forme était protégée par le premier amendement et pensait que le demandeur avait l'intention de fermer la plate-forme et de promouvoir la législation pertinente, qui aura un impact négatif sur l'ensemble de l'industrie génératrice de l'IA.
Le personnage AI, une plate-forme qui permet aux utilisateurs de jouer un rôle avec des chatbots AI, a récemment déposé une plainte déposée par un parent adolescent du tribunal de district américain du district central, en Floride. La parentale Megan Garcia a accusé le personnage de l'IA de sa technologie qui a blessé son fils de 14 ans Sewell Setzer III, affirmant qu'elle était progressivement isolée du monde réel et a finalement conduit au suicide lorsqu'elle a communiqué avec un chatbot nommé "Dany".
Après la mort de Setzer, le caractère AI a déclaré qu'il lancerait une gamme de fonctionnalités de sécurité pour améliorer les capacités de détection et d'intervention dans le contenu du chat qui viole les conditions d'utilisation. Cependant, Garcia espère que la plate-forme sera en mesure d'imposer des restrictions plus strictes, telles que l'interdire de chatbots de raconter des histoires et de partager des anecdotes personnelles.
Dans son application de rejet, l'équipe juridique de l'AI du caractère a fait valoir que la plate-forme était protégée par le premier amendement, affirmant que les droits de ses utilisateurs à la liberté d'expression seront violés. Les documents juridiques indiquent que bien que cette affaire implique un dialogue généré par l'IA, ce n'est pas différent des cas précédents impliquant des médias et des sociétés technologiques.
Il convient de noter que la défense de l’IA du caractère n’implique pas l’applicabilité de l’article 230 de la loi sur l’éthique des communications, qui fournit des protections pour les médias sociaux et d’autres plateformes en ligne de responsabilité pour le contenu tiers. Bien que les rédacteurs du projet de loi aient laissé entendre que la disposition n'a pas protégé le contenu généré par l'IA, le problème n'est pas concluant.
Les avocats du caractère AI ont également déclaré que la véritable intention de Garcia était de «fermer» la plate-forme et de promouvoir la législation sur des technologies similaires. Si le procès réussit, il aura un "effet effrayant" sur l'IA du caractère et l'ensemble de l'industrie de l'IA génératrice émergente.
Actuellement, le personnage IA est confronté à plusieurs poursuites en se concentrant sur la façon dont les mineurs interagissent avec le contenu généré sur leur plate-forme, y compris un cas affirmant que la plate-forme montrait du "contenu hypergénique" aux enfants de 9 ans, et un autre qu'il l'a accusé d'avoir provoqué 17 ans les anciens utilisateurs pour se blesser.
Le procureur général du Texas, Ken Paxton, a également annoncé une enquête sur le caractère AI et 14 autres sociétés technologiques, les accusant de violer les lois des États pour protéger la confidentialité et la sécurité en ligne des enfants. L'IA du caractère fait partie de l'industrie des applications d'accompagnement d'IA en croissance rapide, et les impacts sur la santé mentale dans ce domaine n'ont pas été entièrement étudiés.
Malgré divers défis, l'IA de personnage introduit constamment de nouveaux outils de sécurité et prend des mesures pour protéger les utilisateurs des mineurs, tels que le lancement de modèles d'IA adolescents séparés et des restrictions sur le contenu sensible.
Le résultat final de cette affaire aura un impact profond sur le développement futur de l'industrie de l'IA génératrice, et mettra également en évidence le besoin urgent d'éthique technologique et de supervision de la sécurité de l'IA. Toutes les parties doivent travailler ensemble pour trouver un équilibre entre le progrès technologique et la responsabilité sociale.