キャラクターAIは、14歳の子供が自殺したとされるチャットボットをめぐる訴訟に直面しています。原告の両親は、AIチャットボット「Dany」を効果的に規制しなかったと非難し、息子が仮想世界に夢中になり、最終的に自殺したと非難した。キャラクターAIは、そのプラットフォームが修正第1条によって保護されていることを反論し、原告がプラットフォームを閉鎖し、関連する法律を促進するつもりであると信じていました。
ユーザーがAIチャットボットでロールプレイできるようにするプラットフォームであるキャラクターAIは、最近、フロリダ州中央地区の米国地方裁判所で10代の親によって提起された訴訟を提起しました。親のミーガン・ガルシアは、14歳の息子のスウェル・セッツァー3世を傷つけた技術のキャラクターを非難し、彼女は徐々に現実の世界から孤立し、最終的に「ダニー」という名前のチャットボットと通信したときに自殺につながったと言いました。
Setzerの死後、キャラクターAIは、利用規約に違反するチャットコンテンツの検出と介入機能を改善するためのさまざまなセキュリティ機能を開始すると述べました。ただし、ガルシアは、プラットフォームがストーリーを語ることや個人的な逸話を共有することを禁止するなど、より厳しい制限を課すことができることを望んでいます。
拒否の申請において、Charister AIの法務チームは、プラットフォームは修正第1条によって保護されていると主張し、ユーザーの言論の自由に対する権利が侵害されると主張した。法的文書によれば、このケースにはAIに生成された対話が含まれていますが、これはメディアおよびテクノロジー企業が関与する以前のケースとは大きく違いはないと述べています。
キャラクターAIの防御には、ソーシャルメディアやその他のオンラインプラットフォームがサードパーティのコンテンツの責任から保護を提供するCommunications Ethics Actのセクション230の適用性が含まれていないことは注目に値します。法案の起草者は、この規定がAIに生成されたコンテンツを保護していないことを暗示していますが、この問題は決定的ではありません。
キャラクターAIの弁護士は、ガルシアの本当の意図は、プラットフォームを「閉鎖」し、同様の技術に関する法律を促進することであると述べました。訴訟が成功した場合、キャラクターAIと新たな生成AI業界全体に「冷えた効果」があります。
現在、キャラクターAIは、プラットフォームが9歳の子供に「高遺伝子コンテンツ」を示したと主張する1つのケースを含む、マイノがプラットフォームで生成されたコンテンツとの相互作用に焦点を当てた複数の訴訟に直面しており、17年を引き起こしたと非難した。自分自身に害を及ぼす古いユーザー。
テキサス州司法長官のケン・パクストンはまた、キャラクターAIおよび14の他のハイテク企業の調査を発表し、子どものオンラインプライバシーとセキュリティを保護するために州法に違反していると非難した。キャラクターAIは急速に成長しているAIコンパニオンアプリケーション業界の一部であり、この分野のメンタルヘルスへの影響は完全には研究されていません。
さまざまな課題にもかかわらず、キャラクターAIは、新しいセキュリティツールを常に導入し、未成年者のユーザーを保護するための措置を講じています。
このケースの最終結果は、生成AI業界の将来の発展に大きな影響を与え、AI技術倫理とセキュリティ監督の緊急の必要性を強調します。 すべての関係者は、技術の進歩と社会的責任のバランスを見つけるために協力する必要があります。