AI テクノロジーの急速な発展に伴い、AI によって生成されたコンテンツの信頼性の識別が重要な問題となっています。虚偽の情報の蔓延は、社会の安定と国民の信頼に重大な脅威をもたらします。この課題に対応し、AI によって生成された虚偽の情報と効果的に戦うために、テンセントは新しい AI 生成コンテンツ検出ツールを開始しました。このツールは、AI テクノロジーを使用して AI によって生成されたテキストと画像を識別し、ユーザーの健康と安全を維持することを目的としています。オンライン環境。
人工知能技術の急速な発展に伴い、AI が生成したテキスト、画像、ビデオのさまざまな分野での応用がますます成熟してきました。しかし、その一方で信頼の危機も生じており、虚偽の情報の拡散は社会に潜在的な脅威をもたらします。この課題に対処するために、テンセントは最近、AI テクノロジーを通じて「偽造 AI と戦う」ことを目的として、新しい AI 生成コンテンツ検出ツールをリリースしました。
このツールは Tencent の Zhuque Lab によって開発され、AI 生成のテキスト検出と AI 生成の画像検出の 2 つのシステムに分かれています。テンセント関係者は、AIによって生成された画像は見た目がよりリアルになってきているものの、まだある程度の認識性が残っていると指摘した。ユーザーは、アップロードされた画像を数秒で簡単に検証することで、その画像が AI によって生成されたものかどうかを知ることができます。
検出ロジックに関しては、システムは主に実際の画像と AI が生成した画像の微妙な違いを捕捉することで区別します。たとえば、AI によって生成された画像は、常識の論理に反する場合や、場合によっては透かしの追加が必要になる場合があります。さらに、AI によって生成された画像には、特定の隠れ層の特徴が含まれる場合もあります。検出の精度を確保するために、テンセントは人体、風景、人物、ランドマークなどのさまざまなシーンをカバーする 140 万の陽性サンプルと陰性サンプルをモデルのトレーニングに使用しました。最終的なテストの検出率は 95% 以上に達しました。システムも継続的に最適化されています。
テキスト検出に関しても、Tencent の検出システムはトレーニング用に多数のポジティブサンプルとネガティブサンプルに依存しており、ニュース、公式文書、小説、エッセイなどのさまざまなジャンルをカバーできます。検出されたテキストを大規模モデルの予測内容と比較することで、システムはテキストの AI 生成確率を推測することができ、それによって目に見えないデータの検出能力が向上します。将来的には、テンセントは認識精度をさらに向上させるために、テキスト検出システムを詩など他のジャンルにも拡張する予定です。
テンセントは、この革新的な取り組みを通じて、より安全で信頼できるオンライン環境をユーザーに提供し、虚偽の情報の拡散を効果的に阻止し、社会の健全な発展に貢献したいと考えています。
Tencent の AI 生成コンテンツ検出ツールは、その高精度と継続的な最適化機能により、AI によって生成された虚偽の情報に対処する効果的な手段を提供し、より明確なサイバー空間の構築に貢献するものであり、今後の開発と応用が期待されます。