写真は必ずしも真実であるとは限りません。 AI関連の災害に関する噂をどう打ち破るのか？

つい最近まで、国内の多くの地域が異常気象の影響を受けており、特に洪水期に入ってからは、広範囲にわたる超高温、記録的な大雨、予測不可能な強風が発生しました。こうした異常気象は洪水や土砂崩れなどの自然災害を引き起こし、人々の暮らしや生産活動に重大な影響を与えています。腹立たしいのは、一部の人々がインターネットと人工知能（AI）技術を利用して災害関連の噂を作り出し、広め、すでに緊迫した情報環境をさらに混乱させたことだ。災害やリスクに関する噂はなぜ存在するのでしょうか? 近年の人工知能技術の発展は災害やリスクに関する噂にどのような影響を与えていますか?洪水期には AI が災害関連の噂の新たなトレンドとなっている。毎年 7 月と 8 月に中国インターネット共同噂反論プラットフォームなどの噂を反論するプラットフォームを閲覧すると、高温、洪水、災害に関する噂が目に入る。などの分野が頻繁にあります。今年7月以降、大雨による洪水や浸水、土砂崩れなどの自然災害が激化し、人々の生命や財産に重大な被害をもたらしており、それに関連した風評被害も蔓延しており、危機管理業務に支障をきたしています。最近、インターネット上では、「洪水のピークを過ぎ、重慶市紅雅洞が浸水した」「湖南省長沙で大雨が発生し、多くのバイクが水没した」「四川省達州市で洪水が発生し、多くの死者が出た」などの報道があった。 「河南省鄧州での大雨で千人以上が死亡」などの噂は極めて悪い影響を及ぼしている。近年の災害やリスクに関するネット上でのデマの種類を整理してみると、大きく3つに分類できます。一つは災害や犠牲者をでっち上げること。一部のネチズンは、洪水の高さ、被災者数、物的被害の程度などを誤って報道したり、死者数を含む死傷者に関する未確認の情報を広めたりするなど、被災地の実際の状況を捏造または誇張している。行方不明者も発生し、国民のパニックと不安を引き起こしています。たとえば、8月4日、江蘇省のネットユーザーは、四川省雅安市廬山県で激しい鉄砲水が発生し、30人以上が連絡が取れなくなったとの動画を投稿した。その後、廬山県党委員会インターネット情報局は声明を発表し、検証の結果、ここ数日間廬山県で鉄砲水は発生しておらず、連絡が途絶えたケースもなかったと明らかにした。 2つ目は、誤解を招く動画や写真を公開することです。最も一般的な手口は、「正体を偽る」「事実をすり替える」というもので、過去の災害や無関係な出来事の写真やビデオを現在の災害現場の風景に偽装し、災害状況を偽って伝え、誤解を招くものです。国民の判断。たとえば、6月19日、あるネチズンはショートビデオプラットフォームに、広西チワン族自治区桂林市霊川県九武鎮で激しい土砂崩れが発生したというメッセージを投稿した。桂林市インターネット情報局による検証の結果、ネット上に投稿された動画は、実際には2021年7月3日に熱海市の伊豆山で発生した大規模な土砂崩れの動画であることが判明した。そのネチズンは自分のビデオを歪曲し、国民を大きく誤解させた。 3つ目は、虚偽の救助情報を捏造することです。たとえば、虚偽の救助ニーズ、寄付口座、ボランティア募集情報を公開すると、貴重な救助資源が消費されるだけでなく、実際の救助活動が遅れ、災害救助活動に悪影響を及ぼす可能性があります。例えば、2023年には犯罪者らが浙江省嘉興市赤十字社のアカウントを無断で使用し、「寄付金のリベート」の名目でインターネット上で詐欺を行った。少し前に、湖南省インターネット報告センターの WeChat 公開アカウントも事件を発表した。ネチズン・ヤンは AI テクノロジーを使用して、川の水とヤマモモの木の写真をつなぎ合わせ、大雨と増水で果樹が水没したかのような錯覚を作り出した。写実的な写真が一部の人々を信じさせ、パニックを引き起こしました。この事件で言及されたAI技術は、災害やリスクに関する噂を作り出すために最近使用された新しい手法の1つです。近年、生成型人工知能や映像合成などの技術の発展に伴い、従来の災害風評被害と比較して、AIなどの新たな技術を利用した風評被害が全国各地で多発しています。製造の敷居が低くなり、より複雑になります。 4月12日、公安部はネット上での噂や犯罪に対処する典型的な10件の事例「江西省公安局がMCN（マルチチャンネルネットワーク）機関が人工知能ツールを利用して噂を広める事件を調査し、対処した」と発表した。重慶市公安局は人工知能ツールを使用した事件を捜査し、対処した」「ツールを使用して『爆発事故』の噂を捏造した事件」もその中にある。江西省南昌にある MCN 組織は、キーワードを入力することでネットワーク情報を自動的に収集し、数百から数千語の記事を生成する高度な AI ソフトウェアを使用していることにさらされました。これらの記事は情報が豊富であるように見えますが、実際には内容のほとんどが捏造されており、事件に関連すると思われる虚偽の写真が添付されており、誤解を招く性質が大幅に高まっています。この組織が作成する偽記事の最大出力は 1 日あたり 4,000 ～ 7,000 記事になる可能性があります。現在のAI技術の開発は比較的成熟した段階に達しており、多くのAIツールやサービスが商用化されており、専門的なプログラミングスキルや高度な技術知識は必要なく、簡単に入手できます。既製のソフトウェアやオンライン サービスを使用してテキスト、画像、ビデオを生成できるため、噂を生み出すための経済的コストと時間の投資が大幅に削減されます。また、AI は話題の出来事に基づいて関連する噂のコンテンツを迅速に生成し、情報を自動的につなぎ合わせて一見合理的な物語を形成し、情報の信頼性を高めることもできます。たとえば、2024年1月23日、違法行為者ヤン・モウモウは、トラフィックを獲得して利益を上げるために、AIソフトウェアを使用して「雲南省の土砂災害で8人が死亡した」という虚偽のニュース情報を生成し、インターネット上で関連情報を収集した。 . オンラインプラットフォーム上で公開され、社会に悪影響を及ぼします。記者はヤン・モウモウが発表した誤ったニュースを閲覧したが、AIによって書かれたこの噂は、簡潔な言葉遣い、包括的な情報、そして専門的な表現を備えており、一見すると毎日の公式メディアが発表するニュースと非常によく似ており、読者を誤解させる可能性がある。災害関連のデマはなぜ根強く残るのか?人々の好奇心や関心を利用し、センセーショナルなコンテンツを生み出して世間の注目を集め、ソーシャルメディアアカウントの閲覧数やファン数を増やすという、災害関連のデマが作られ拡散される原点を探ります。そして、商業的利益を得ることは、多くの虚偽情報発行者の主な目的の 1 つです。たとえば、前述したように、「江西省公安局は、MCN 機関が噂を広めるために人工知能ツールを使用した事件を調査した。当初、同社の 1 日あたりの収入は 10,000 元を超えていると推定されている。」少し前に、インターネットの有名人がDouyinプラットフォームに2本の洪水動画を投稿し、洪水で車両が流される様子を映し、最近の大雨のせいで湖南省永州市の多くの場所で大雨と水位の上昇が発生していると主張した。 6月26日、永州市冷水潭公安局小家園派出所の警察は、法律に基づいて取り調べを行った結果、当該動画は楊さんが注目を集め、注目を集めるためにインターネットからダウンロードした動画であることを発見した。事実とは関係なく、トラフィックを追跡し、そのテキストをオンラインアカウントに投稿しました。それはローカルの事実ではありませんでした。注目を集めるためのこの種の行為は、交通が最優先であり、利益が最優先であるため、ヤンは最終的に行政罰を受けました。噂を広める人の中には、現実への不満やその他の感情的な理由から、悪意を持って誤った否定的な情報を広めることによって、自分の態度や感情を表現する人もいます。さらに、彼らは混乱を引き起こすことで、政府のイメージ、政策決定、世論の方向性に影響を与えようとします。また、故意に噂を広めるのではなく、無知で恐れ知らず、未知のソースからの情報を検証せずに転送して共有する人もいます。人類は誕生以来、さまざまな自然災害の脅威にさらされてきました。歴史を通じて、そして国内外で自然災害が発生するたびに、しばしば噂が伴います。たとえば、『曹牧子』には、元の治政14年、南部地方が80日以上続く稀な大雨に見舞われ、国中が水浸しになり、洪水と飢餓災害が発生したという噂の出来事が記録されている。当時、地下に潜んでいた大量のドラゴンが大雨に乗じて出現したという噂が流れ、多くの人々がそれを信じて非常にパニックになっていました。 1978年、ギリシャのテッサロニキで3回の地震が発生した後、「市の中心部で大地震が起こる」という噂が流れ、人口70万人のほぼ半数が固定資産を安く売り、食料の購入に走った。 2019年に超大型台風「レキマ」が中国に上陸した際には、「突然街にワニが現れた」「排水を促進するために地上のマンホールの蓋が一晩午後7時にすべて開く」などの噂がSNS上に流れた。不必要な国民のパニックを引き起こします。 2023年、甘粛省鶏師山市でマグニチュード6.2の地震が発生した。この間、甘粛省と青海省は、地震救援や災害救援に関するデマを広めたとして14人のネットユーザーを行政処罰し、法律に基づいて121人を批判し、教育した。特に「甘粛省地震被災地に寄付されたカナダグースのダウンジャケットが転売されているというデマ」がインターネット上で広く拡散し、悪影響を及ぼした。 2010年にも同様の「奇妙な事件」があった。当時、陰暦1月8日の午後1時から午前7時まで、山西省太原市などの都市で破壊的な地震が発生する可能性があるという噂がインターネット上に流れた。山西省晋中市鹿梁市太原市などの数十の県や市、数千の村、数千万戸近い家々が、寒風の中、人々が夜遅くまで起きて街路に群がっている。地震が来るのを待ってください。」地震や洪水などの自然災害に関する噂がなぜこれほど広まるのか。人々は自然災害に対して自然な恐怖を抱いているため、この恐怖により関連ニュースに対してより敏感になります。起こり得る災害の脅威に直面すると、人々は最悪のシナリオを信じる傾向があり、パニックが拡大します。さらに、災害発生の前後では、公式情報がタイムリーかつ正確に全員に伝達されないことが多く、そのことが噂が生まれる余地を与えています。特に情報が限られている地域やネットワークが未発達な地域では、人々は非公式のルートからの情報を信頼する可能性が高くなります。さらに、情報の信頼性を特定するための十分な科学的知識が不足しており、集団心理を持っている人もいる可能性があり、これらの要因が共同して噂の成長と拡散を促進します。 「広く流布される地震の噂によって引き起こされる被害は、中程度の地震の被害に劣りません。災害やリスクに関する誤った情報は、非常に厳しい気象条件や災害の影響を誇張することで不必要なパニックを引き起こすだけでなく、すでに逼迫した情報リソースのチャネルを占有します。」そして、当局が発表する正確な情報や、インターネットを通じて助けを求める被災者の本当のニーズさえも曖昧にしてしまいます。このような行為は、公共の利益を損ね、社会的信用に悪影響を与えるだけでなく、救助、災害救助、緊急対応業務に支障をきたす可能性があります。自然災害に直面した場合に情報の信頼性を維持するには、インテリジェントなレビューと手動によるレビューを組み合わせる必要があります。諺にあるように、デマを立てたら反駁すると失脚するというもので、上記のデマを広めた事件ではデマを広めた者が処罰されており、大手ウェブサイトプラットフォームも関連するデマに対して積極的に反論しているが、それは不可能である。一部のネチズンがただ見ている可能性は排除される 噂があり、明確化されない場合、噂の影響を完全に排除することはできません。災害関連の噂の急速な広がりは、容易に国民を誤解させるだけでなく、パニック、資源配分の誤り、さらには二次災害を引き起こす可能性があります。したがって、AIの噂を識別する国民の能力を向上させ、オンラインプラットフォームの監視を強化することが、解決すべき緊急の課題となっています。 AI 詐欺の混乱を制御し、ネットワーク エコシステムのガバナンスを強化するために、関連部門やプラットフォームは近年、AI 関連の法律や規制、権利と責任の段階的な改善に伴い、多くの政策や措置を導入してきました。すべての当事者の状況が徐々に明らかになってきました。中国サイバースペース局などは2021年12月と2022年11月に、インターネット情報サービスの利用を対象とした「インターネット情報サービスのアルゴリズム推奨管理に関する条例」と「インターネット情報サービスの深層合成管理に関する条例」を相次いで公布した。違法・有害な情報を拡散させるための人工知能アルゴリズムの利用、ユーザーの権利侵害や世論操作などの問題に対処するために、セキュリティ管理を強化し、アルゴリズム推奨技術や深層合成技術の合理的かつ効果的な利用を促進する必要があります。法。その中で、「インターネット情報サービスの深層合成に関する行政規則」は、深合成サービス提供者と利用者に対し、深合成サービスを利用して虚偽のニュース情報を作成、コピー、出版、流布しないよう求めており、深合成サービス提供者は次のようにすべきであると指摘している。噂を反論するメカニズムを確立し、改善すること。深層合成サービスを利用して虚偽の情報を作成、コピー、公開、または広める者は、タイムリーに噂を反論し、関連する記録を保管し、サイバーセキュリティおよび情報化部門および関連管轄当局に報告する措置を講じる必要があります。 2023年7月に中国サイバースペース局などが発行した「生成型人工知能サービスの管理に関する暫定措置」では、プロバイダーと規制当局の両方に対する要件が定められた。第 12 条では、プロバイダーは、「インターネット情報サービスの深層合成の管理に関する規則」に従って、画像、ビデオ、およびその他の生成されたコンテンツにラベルを付ける必要があると規定しています。第14条では、プロバイダーは違法コンテンツを発見した場合、速やかに生成停止、送信停止、消去等の処分措置を講じ、是正のためのモデル最適化訓練等の措置を講じ、所管官庁に報告しなければならないと規定している。プロバイダーは、利用者が生成型人工知能サービスを利用して違法行為を行っていることを発見した場合、法律および契約に従い、警告、機能の制限、利用者へのサービスの提供の停止または終了などの処分措置を講じるものとします。関連する記録を保管し、関連する管轄当局に報告します。第 16 条は、サイバーセキュリティと情報化、開発と改革、教育、科学技術、産業と情報技術、公安、ラジオとテレビ、出版と出版などの部門が、生成的人工知能サービスの管理を強化することを規定しています。それぞれの責任と法律に従ってください。今年4月、中央サイバースペース委員会事務局は「『セルフメディア』無制限の大量トラフィックの浄化と是正に関する特別措置の実施に関する通知」を発表し、情報源の表示と表示の強化を求めた。 。 AI などのテクノロジーを使用して情報が生成される場合は、テクノロジーによって生成されたものであることを明確に示す必要があります。フィクション、推理などを含むコンテンツには、フィクションであることを明確に示す必要があります。 Douyin ショートビデオ プラットフォームを例に挙げます。 2023年5月10日、Douyinは「人工知能生成コンテンツに関するプラットフォーム仕様と業界の取り組み」を発表し、人工知能生成コンテンツは識別が難しく、虚偽の情報や侵害などの問題も引き起こしていると述べた。 「インターネット情報サービスの深層合成の管理に関する規制」などの法律や規制を参照して、Douyin 氏は 11 のプラットフォーム仕様と業界の取り組みを提案しています。そのうちの 4 つ目は、他のユーザーを支援するために人工知能によって生成されたコンテンツを目立つようにマークすることを出版社に義務付けています。仮想と現実を区別する、特に混乱を招くシーン。したがって、AI によって生成されたと疑われるコンテンツには明確にマークを付ける必要があります。現在、AI技術の使用が疑われるコンテンツについては、Douyinは作品の下に「コンテンツはAIによって生成された疑いがあるため、慎重に審査してください」というプロンプトをマークする予定だ。フィクションや解釈などを含むコンテンツには明確にフィクションのラベルを付け、違法アカウントを「禁止」するなどの措置を講じるプラットフォームもある。人工知能の分野に長年注目している専門家は、短いビデオや写真から噂を特定する研究は実は10年以上前から始まっていると語った。現在の比較的成熟したテクノロジーは、スクリーニングのための検索と比較に依存しています。動画や画像の噂は、他の時代や他の地域の資料とつなぎ合わせられることが多いため、人工知能技術に頼ることで問題の大部分を特定し、解決することができます。さまざまな国や地域をカバーするさまざまなデータを収集し、数年、場合によっては10年以上にわたって情報を推進し、時空から十分なデータを収集して保存した後、ほとんどの噂を検索して類似した写真やビデオを特定することができます。発見されている。専門家はまた、AI技術を使って純粋に新たに生成された噂を特定するのは難しいとも述べた。近年、マルチモーダル大規模モデル生成技術の発展に基づいて、まったく新しい短いビデオや写真を生成することが簡単になり、これらの素材を使用して噂を作成する技術的なルートが変化しました。これらの新しいテクノロジーは、インターネット上で流通したことのない情報を生成する可能性があるため、検索と比較に基づく以前の噂スクリーニング テクノロジーはほとんど効果がありませんでした。したがって、新しい生成モデルによって生成された偽のコンテンツを特定する方法は、技術的な観点からまだ研究中です。中国科学技術協会の噂反論プラットフォームの特別任命専門家、張英氏は、AIが生成した災害やリスクを伴う噂という課題に直面して、国民の識別能力を向上させ、オンラインの監視戦略を強化することが重要であると信じている。プラットフォームは、相互に強化する 2 つの側面です。張英氏は、私たちが活動の4つの側面に焦点を当てる必要があると提案した。第1に、科学技術の進歩を広め、人々に希望を与えること、第2に、噂を反論し、誤解を説明し、人々を災害から救うこと。脆弱性、第 4 に、一般大衆に注意を払う。一般大衆が参加し、利益を得る感覚を高める。オンラインプラットフォームの監督戦略に関して、Zhang Ying 氏は次の提案を行いました。 まず、インテリジェントなレビューと手動のレビューを組み合わせます。オンライン プラットフォームでは、コンテンツ レビューを支援する高度な AI テクノロジーを導入して、レビューの効率と精度を向上させる必要があります。同時に、手動によるレビューメカニズムが確立され、噂の疑いについて二次レビューを実施し、レビュー結果の公平性と権威性を確保します。 2 つ目は、迅速な対応と噂に対する反論のメカニズムを確立することです。災害やリスクを伴う噂が発見されたら、オンラインプラットフォームは直ちに迅速な対応メカニズムを起動し、噂の内容を迅速に削除し、公式ルートを通じて反論情報を公開する必要があります。同時に、政府機関や権威あるメディアなどが、共同でデマの拡散と闘うための連携メカニズムを確立した。 3つ目は、ユーザーの行動管理と指導の強化です。オンラインプラットフォームはユーザーの行動の監視と管理を強化し、悪意を持って噂を広めたユーザーを処罰し、警告する必要がある。同時に、公衆は権威あるチャネルを通じて情報を入手し、ポップアッププロンプトやユーザー教育などを通じて情報配布に合理的に参加するようにユーザーを導き、良好なネットワーク環境を共同で維持するよう注意を喚起されます。 4つ目は、データ共有とクロスプラットフォームコラボレーションの促進です。情報共有と共同運用を実現するために、異なるネットワーク プラットフォーム間でのデータ共有メカニズムの確立を奨励します。クロスプラットフォームの連携により、世論監視を強化し、デマの拡散動態や範囲をより包括的に把握することができ、的を絞った対策の策定を強力にサポートします。 Zhang Ying 氏はまた、一般の人々が AI の噂を特定する方法についていくつかの提案を行いました。一つ目は、情報リテラシー教育の強化です。国民は体系的な情報リテラシー教育を受け、情報源の信頼性を見極める方法を学び、AIが生成したコンテンツの限界と潜在的なリスクを理解する必要がある。平時においては、関連業界当局、主流メディア、科学普及専門家もさまざまな形で科学の普及と教育を実施すべきであり、例えば、中国科学技術協会はデマの反論を行うためのデマ反論プラットフォームを設立した。生命と健康、食品と医療、緊急時の安全などの人々の関心分野における研究と科学の普及に加え、中国サイバースペース局は年次デマ反論作業リストを発行するなどの作業も実施し、良好な成果を上げた。 。同時に、関係部門は事例分析やシミュレーション演習などを通じて国民の注意力と噂を特定する能力を向上させる必要がある。 2つ目は、複数のチャネルを通じて情報を検証することです。国民は、災害関連情報に直面する場合、マルチチャンネル検証方法を採用することが奨励されています。公式メディアや政府機関が発表する情報に加え、検索エンジン、ソーシャルメディアの公式アカウント、第三者のファクトチェック機関などのリソースを利用して、情報の真偽を総合的に判断することもできます。地震予測を例に挙げると、関連する法律や規制では、関連情報を発表する権限を持つのは州レベル以上であると定められています。 3つ目は、批判的思考を養うことです。国民の批判的思考を養い、自主的に情報を分析し評価する方法を学びます。過度に誇張されたり、感情的になったり、具体的な証拠に欠けたりする情報には注意し、信じたり広めたりしないでください。地震に関して言えば、建物の防備が基準を満たしているか、十分に備えられている限り、通常は壊滅的な結果を引き起こすことはないため、過度に恐れる必要はありません。同時に、緊急避難の方法については、万能の緊急避難方法はなく、場所、時間、人に応じてさまざまな場所や規模の火災にどのように対応するかを国民が科学的に考える必要があります。科学的に考えて対処する必要があります。