MCN 組織は、人工知能プログラムを使用して 1 日に何千もの偽ニュースを作成し、大量の誤った情報をインターネット上で拡散させています。新しいプラットフォーム アカウントは、AI の「作成」に依存して 10 冊以上の電子書籍を更新しています。毎日のように書かれていますが、その文章は非論理的で修辞的です。 空っぽです。AI によって生成された虚偽のイラストの使用により、医学論文が撤回されました。現在、AI によるテキストの生成、偽造、改ざんがますます一般的になりつつあります。 、写真、音声、動画、そして大量の粗末な「真偽の区別が難しい情報“ゴミ”」が「AI汚染」議論を引き起こすきっかけとなった。
昨年以来、生成人工知能は世界中で次々と流行の波を引き起こし、その破壊的なアプリケーションは多くの業界やインターネット ユーザーに恩恵をもたらしています。しかし、コインには裏表があり、生成型人工知能に伴う「情報ゴミ」による「AI汚染」も顕著になってきています。
清華大学ジャーナリズム・コミュニケーション学部ニューメディア研究センターが今年4月に発表した調査報告書によると、経済や企業向けAIに関する噂の数は過去1年間で99.91％増加した。米捜査機関「ニュースガード」は、虚偽の記事を生成するウェブサイトの数が２０２３年５月以降１０００％以上急増し、１５の言語が関与していると発表した。一部の専門家は、AI によって生成される「情報のゴミ」は膨大で、特定が難しく、選別にはコストがかかると考えています。
「AI汚染」による被害は明らかだ。 「AI汚染」はネット民を幻覚に陥らせるだろう。ある知識共有プラットフォームでは、「天文学をトップに、地理を下位に知っている」かのようなAIが、中身のない、素っ気ないコンテンツを生成する。批判的思考が欠如している場合、AIによって急速に編み上げられる「知識体系」は、一方では人々の批判的思考能力を低下させる可能性があり、他方では、人々が認知的錯覚に陥り、社会の認知的混乱を引き起こす可能性もあります。したがって、現実に対する集団的な理解と科学的合意は、最終的には人々を AI に「導かれる」ことになります。特にインターネットとともに育った若い世代にとって、ひとたび「情報ゴミ」によって認知が形作られると、その結果は悲惨なものとなるでしょう。
「AI汚染」はAI産業の発展に裏目に出てしまう。周知のとおり、AI モデルの精度はトレーニング データの品質に大きく依存します。 AI によって生成された虚偽コンテンツやスパム コンテンツがインターネットに「リフロー」し、AI モデルをトレーニングするための新しいデータになる場合、この「ガベージ イン、ガベージ アウト」サイクル モデルにより、AI の出力品質が崖から落ちる可能性があり、これは有益ではありません。 AI産業全体の発展に貢献します。たとえば、あるインターネット企業は検索エンジンの最適化を利用して AI が生成した記事を検索結果で優先させたため、ユーザーが質の高い情報を取得することが困難になり、ユーザーからの広範な批判を引き起こしました。
さらに、「AI汚染」は法律や倫理、さらには社会の安定など多くの問題を含んでいます。 AI によって生成された虚偽のコンテンツは、知的財産権の侵害、著作権規則の揺さぶり、個人のプライバシーの侵害、身元情報の漏洩、悪用のリスクを伴う可能性があり、AI によって生成された違法行為は、社会的ガバナンスをさらに強化することになります。難しい。
インターネットの「AI汚染」を是正することが急務であることがわかる。中国インターネット情報センターが発表した第54回「中国インターネット発展統計報告」によると、今年6月時点で我が国のインターネットユーザー数は11億人近くに上る。インターネットは人類の生存のための新たな住処を築き、若い世代はインターネットの「原住民」となっています。「AI汚染」を是正することは、きれいなサイバー空間を作り、人々の良好な生活を確保するために必要な行動であると言えます。すべてのネチズン。
まず、AI の学習および生成メカニズムのソース ガバナンスを強化する必要があります。ソース素材の管理と生成されたコンテンツの監督に対する AI プラットフォームの責任を明確にし、AI コンテンツの生成ルールを改善し、AI で生成されたコンテンツに目立つラベルを付けることを強制し、AI テクノロジーの透明性と説明可能性を向上させます。
第二に、AI生成コンテンツの審査と監督を強化する。関連部門や企業は、AI によって生成されたコンテンツのスクリーニングとレビューに重点を置いて監督する必要があり、関連するレビュー アルゴリズムを開発し、世論分野への生成コンテンツの流れと配布を標準化し、低品質または低品質のコンテンツを迅速に発見して削除することができます。虚偽の内容。
第三に、AI が生成したコンテンツを識別するユーザーの能力を向上させます。ネットユーザーはインターネット情報を合理的に扱い、予防意識と識別能力を強化する必要があります。逆引き検索ツールを使用してコンテンツのソースと作成者情報を確認し、コンテンツの言語と構造的特徴を分析して、「偽」の情報を識別することができます。 「劣っている」。
サイバースペースはゴミが散乱する「ゴミ捨て場」ではありません。 「AI汚染」と闘い、クリーンで安全なネットワークホームを構築するには、すべての部門の共同管理と社会全体の参加が必要です。