最近、Google がサポートする AI チャット プラットフォームである Character.AI に重大な障害が発生し、ユーザーの間で不安が広がりました。この不具合により、チャットボットの出力は文字化けし、複数の言語が混在し、「ディルド」などの混乱を招く、さらには性的なものを暗示する単語が含まれていました。多くのユーザーが、「オハイオ」、「数学」、スラブ語の「オベック」など、AIが生成したナンセンスでランダムな単語が表示されたスクリーンショットをRedditで共有した。 Character.AI で問題が発生したのは今回が初めてではなく、昨年 12 月に同プラットフォームで重大なセキュリティ侵害が発生し、ユーザーのチャット記録と個人情報が漏洩した。この機能停止により、特に多くのユーザーがプラットフォーム上でプライベートな会話を行っていることから、データのセキュリティに対する懸念が再び高まっています。
あるユーザーは、普通の会話が何時間も経つと無意味になり、ランダムな単語や複数の言語が混在するようになったと語った。スクリーンショットを見ると、AI が生成したテキストが徐々に意味のないちんぷんかんぷんになり、「カウボーイ」、「建築」、「違い」、「知事」などのキーワードが繰り返し登場することがわかる。 Character.AI はまだこの障害に対応していませんが、この事件は大規模な言語モデルの安定性とセキュリティの問題を改めて浮き彫りにし、ユーザー データのセキュリティを確保するために AI モデルの監視と保守を強化する必要性を開発者に思い出させました。と通常の会話の進行。
ハイライト:
この不具合により、Character.AI チャットボットの会話が混乱し、ユーザーは複数の言語が混在した意味不明な内容を報告しました。
複数のユーザーが奇妙な会話のスクリーンショットを共有し、「ディルド」などの単語が頻繁に言及され、混乱を引き起こした。
Character.AI は以前にもセキュリティ侵害を経験しており、この失敗によりデータ セキュリティに対する懸念が再び高まりました。
Character.AI のこの失敗は、ユーザー エクスペリエンスに影響を与えただけでなく、大規模な言語モデルの潜在的なリスクと課題も明らかにしました。今後、同様のプラットフォームは、このような事件の再発を回避し、ユーザーデータのセキュリティと良好なユーザーエクスペリエンスを維持するために、技術的な改善とセキュリティ対策を強化する必要があります。 Character.AI ができるだけ早く問題を解決し、障害の原因について詳細な説明を提供してくれることを願っています。