有圖未必有真相！ AI涉災謠言如何破？

前不久，全國多地遭受極端天氣的影響，尤其是在進入主汛期後，一些地區經歷了大範圍極端高溫、破紀錄的強降雨及變化莫測的大風天氣。這些極端天氣引發了洪澇、山崩等自然災害，為人民的生活和生產活動帶來了嚴重影響。令人氣憤的是，有人趁機利用網路、人工智慧（AI）技術製造並散佈涉災謠言，進一步擾亂了本已緊張的資訊環境。涉災涉險謠言為何存在，近年來人工智慧技術的發展對涉災涉險謠言產生了哪些影響，如何遏止涉災涉險謠言的製造與傳播？ AI加持成汛期涉災謠言新趨勢如果在每年的七八月份瀏覽諸如中國互聯網聯合闢謠平台等闢謠平台就會發現，涉高溫、汛情、災情等領域謠言呈多發頻發態勢。今年7月以來，因強降雨導致的洪水、內澇、泥石流等天災不斷升級，對民眾的生命財產安全帶來重大損害，相關謠言也甚囂塵上，幹擾緊急管理工作。近期，網路上先後出現了「洪峰過境，重慶洪崖洞被淹」「湖南長沙暴雨致多輛摩托車被淹沒」「四川達州洪災致多人死亡」「河南鄧州暴雨死了一千多人」等謠言，影響極為惡劣。查閱梳理近年來涉災涉險網路謠言類型，可大致將其歸納為三類。一是虛構災情和人員傷亡。一些網民編造或誇大受災地區的實際情況，如錯誤報告洪水的高度、受災人口的數量或財產損失的程度，傳播未經證實的人員傷亡信息，包括死亡人數、失踪人數等，引發民眾恐慌焦慮情緒。例如，8月4日，一名江蘇網民發布影片稱，四川雅安蘆山縣發生一起嚴重的山洪災害，目前已有三十多人失聯。蘆山縣委網信辦隨後發表聲明，澄清經核實，蘆山縣近日未發生山洪災害，無人員失聯等情況。二是發布誤導影片或圖片。最常見的手法是「張冠李戴」「移花接木」式操作，即將以往災害或其他不相關事件的照片或影片偽造成當前災害現場的情景，謊報災情，誤導公眾判斷。例如，6月19日，某網友在短片平台發布一則訊息，指廣西桂林市靈川縣九屋鎮發生了嚴重泥石流。經桂林網信辦核實，網傳影片其實是2021年7月3日發生在日本熱海市伊豆山山體大規模泥石流的影片。該網友將他地視頻移花接木，嚴重誤導了民眾。三是編造不實救援資訊。如發布不實的救援需求、捐款帳號或志工招募資訊等，不僅消耗寶貴的救援資源，還可能延遲真正的救援行動，對救災工作帶來負面影響。例如，2023年，有不法份子未經許可，擅自使用浙江省嘉興市紅十字會的帳號，在網路上以「捐款返利」的名義實施詐騙行為。不久前，湖南省網路檢舉中心微信公眾號也公佈了一個案例：網友楊某運用AI技術將河水與楊梅果樹圖片拼接在一起，造成大雨漲水淹沒果樹的假象。逼真的畫面導致部分群眾信以為真，引發恐慌情緒。案例中所提到的AI技術便是近期用於製作涉災涉險謠言的新手段之一。近年來，隨著生成式人工智慧、視訊合成等技術的發展，利用AI等新技術製造的涉災涉險謠言案例在全國多地頻發，相較於傳統的涉災涉險謠言，它們具有製造門檻更低、迷惑性更強的特質。 4月12日，公共安全部公佈了10起打擊整治網路謠言違法犯罪典型案例，「江西公安機關查處一起MCN（多頻道網路）機構使用人工智慧工具造謠案」和「重慶公共安全機關查處一起使用人工智慧工具編造'爆炸事故'謠言案”位列其中。江西南昌一家MCN機構被曝出利用先進的AI軟體，透過輸入關鍵字自動收集網路信息，進而產生數百字至上千字的文章。這些文章看似資訊豐富，但其實內容多為捏造，並配以看似與事件相關的虛假圖片，大大增加了其誤導性。這家機構所製造的假文章產量最高時一天能產出4000篇至7000篇。目前AI技術的發展已經到了一個相對成熟的階段，許多AI工具和服務已經商業化並且易於獲取，還可以提供免費或低成本的版本，不需要專業的程式設計技能或高級的技術知識，普通人也可以使用現成的軟體或線上服務來產生文字、圖片或視頻，大大降低了製作謠言的經濟成本和時間投入。 AI還可以根據熱點事件快速產生相關的謠言內容，自動拼接訊息，形成看似合理的敘述，增加了訊息的真實感。例如，2024年1月23日，違法行為人楊某某為獲取流量牟利，蒐集網絡上的相關信息後，利用AI軟體生成了“雲南山體滑坡災害已致8人遇難”的虛假新聞信息，並發佈在網路平台上，造成不良社會影響。記者瀏覽了楊某某發布的虛假消息，這條出自AI之手的謠言語言精練、信息全面、用詞專業，乍一看和日常官方媒體發布的新聞消息十分相似，很容易誤導讀者。涉災謠言為何經久不絕探究製造、傳播涉災涉險謠言行為的出發點，利用人們的好奇心和關心心理，透過製造轟動效應的內容來吸引大眾注意，提高社群媒體帳號的瀏覽量和粉絲數，進而獲得商業利益是許多虛假資訊發布者的主要目的之一。例如前文提到的“江西公安機關查處一起MCN機構使用人工智慧工具造謠案”，初步估算該公司每天收入超過1萬元。不久前，一網紅在抖音平台發布兩條汛情視頻，顯示有車輛被洪水沖走，並聲稱因近期強降水，湖南永州多地暴雨漲水。 6月26日，永州市冷水灘公安分局肖家園派出所民警經依法詢問，發現相關影片是楊某為了博取眼球、吸引流量，罔顧事實從網上下載外地洪水視頻後自行配文發佈至網絡帳號，並非當地實情。這種為了博取關注、流量為王、利益至上的行為讓楊某最終受到了行政處罰。再有一些造謠者可能出於對現實不滿或其他情緒原因，抱著「看熱鬧不嫌事大」的負面心態，透過惡意散播假負面訊息來表達自己的態度或情緒。更有甚者，試圖透過製造混亂來影響政府形象、政策決策或社會輿論走向。此外，還有一部分人並非故意造謠，而是無知無畏，未經查證就轉發分享來源不明的訊息。人類自誕生之日起便承受著各種天災的威脅和打擊。古今中外，每當發生自然災害時，謠言常常「相伴左右」。例如，在《草木子》記錄了這樣一起謠言事件：元朝至正十四年，南方地區遭遇罕見的大雨，持續下了80多天，澤國一片，造成洪澇和飢荒災害。當時有謠言稱大量潛藏在地底下的龍趁著這場大雨鑽了出來，許多人對此深信不疑，十分恐慌。 1978年，希臘的塞薩洛尼基市發生3次地震後產生了「市中心將發生大地震」的謠言，這座城市的70萬人口幾乎逃走大半，人們紛紛低價拋售固定資產、搶購食品。 2019年，當超強颱風「利奇馬」登陸中國時，社群媒體上出現了「街頭驚現鱷魚」「某天晚7點會將地面井蓋全部打開以便排水」等謠言，引發了民眾不必要的恐慌情緒。 2023年甘肅積石山發生6.2級地震，其間甘肅、青海兩地共依法行政處罰造謠抗震救災網民14人、批評教育121人。特別是「捐贈甘肅震區的加拿大鵝羽絨外套被倒賣謠言」在網路上廣泛傳播，造成惡劣影響。 2010年也曾發生過這樣一件「奇事」：當時網路上出現謠言稱山西太原等城市可能會發生破壞性地震，農曆正月初八夜間1時到早上7時，山西省晉中、呂梁、太原等地幾十個縣市、上千個村落、近千萬人家燈火通明，寒風中人們半夜不睡覺擠上街道「等地震」。為什麼地震、洪水等天災相關的謠言會如此「有市場」？因為人們對於天災有著天生的恐懼感，這種恐懼會讓人對相關消息更加敏感。當面臨可能的災難威脅時，人們往往傾向於相信最壞的情況，從而加劇了恐慌情緒的傳播。且災害發生前後，官方訊息往往無法及時準確地傳達給所有人，這就為謠言提供了滋生的空間。特別是在資訊閉塞或網路不發達的地區，人們更容易相信非正式管道的消息。加之部分人群可能缺乏足夠的科學知識來辨別訊息的真實性，以及存在從眾心理，這些因素共同助推了謠言的滋長與傳播。 「一個流傳廣泛的地震謠言所造成的損失，不亞於一次中等強度的地震。」涉災涉險不實資訊不僅會透過渲染極端惡劣的天氣狀況或災難後果製造不必要的恐慌情緒，還會佔用本已緊張的資訊資源通道，甚至掩蓋官方發布的準確資訊以及受災群眾透過網路尋求幫助的真實需求。此類行為不僅損害公共利益，對社會的公信力帶來負面影響，也可能對搶險救災、緊急處置工作產生困擾。智慧審核、人工複方須組合發力在面臨天災時，維護資訊的真實性至關重要。俗話說，造謠一張嘴，闢謠言跑斷腿，儘管上文所提到的造謠案例中的造謠者均已受到處罰，各大網站平台也積極對相關謠言進行了闢謠，但不能排除一些網友只看到謠言、沒看到澄清的情況，謠言造成的影響並不能完全消除。涉災涉險謠言的快速擴散不僅容易誤導大眾，還可能引發恐慌、資源錯配甚至次生災害。因此，提升大眾對AI謠言的辨識能力，增加網路平台的監管力度，成為當前亟待解決的問題。為治理AI造假亂象，深化網路生態治理，近年來，相關部門和平台推出多項政策和措施，與AI相關法律法規的逐步完善，各方的權責逐漸明晰。 2021年12月及2022年11月，國家網路資訊辦公室等部門先後發布《網路資訊服務演算法推薦管理規定》及《網路資訊服務深度合成管理規定》，針對利用人工智慧演算法從事傳播違法與不良資訊、侵害用戶權益、操縱社會輿論等問題，加強安全管理，推動演算法推薦技術及深度合成技術依法合理有效運用。其中，《互聯網資訊服務深度合成管理規定》要求深度合成服務提供者和使用者不得利用深度合成服務製作、複製、發布、傳播虛假新聞信息，並指出深度合成服務提供者應建立健全闢謠機制，發現利用深度合成服務製作、複製、發布、傳播虛假信息的，應及時採取闢謠措施，保存有關記錄，並向網信部門和相關主管部門報告。 2023年7月國家網路資訊辦公室等部門推出的《生成式人工智慧服務管理暫行辦法》對提供者和監管部門都做出了要求。第12條規定提供者應依照《網路資訊服務深度合成管理規定》對圖片、影片等生成內容進行識別。第14條規定提供者發現違法內容的，應及時採取停止生成、停止傳輸、消除等處置措施，採取模型優化訓練等措施進行整改，並向相關主管部門報告。提供者發現使用者利用生成式人工智慧服務從事違法活動的，應依法依法依約採取警示、限制功能、暫停或終止向其提供服務等處置措施，保存有關記錄，並向相關主管機關報告。第十六條規定網信、發展改革、教育、科技、工業與資訊化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智慧服務的管理。今年4月，中央網信辦秘書局發布《關於開展「清朗·整治'自媒體'無底線博流量」專案行動的通知》，要求加強資訊來源標註展示。使用AI等技術產生資訊的，必須明確標註系技術生成。發布含有虛構、演繹等內容的，必須明確加註虛構標籤。以抖音短視訊平台為例。 2023年5月10日，抖音發表《關於人工智慧生成內容的平台規範暨產業倡議》稱，人工智慧生成內容存在識別困難的特點，也帶來了假訊息、侵權等問題。參考《互聯網資訊服務深度合成管理規定》等法律法規，抖音提出十一條平台規範與產業倡議，其中第四條為發布者應對人工智慧AI生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。所以對疑似AI生成的內容要進行顯著標識。目前，針對疑似使用AI技術的內容，抖音會在作品下方標註「內容疑似AI生成，請謹慎甄別」的提示。還有一些平台會對包含虛構、演繹等環節的內容，明確加註虛構標籤，對違規帳號採取「封號」等措施。一位長期關注人工智慧領域的專家介紹，關於短片和圖片的謠言辨識工作，其實在十多年前就已經開始研究。目前相對成熟的技術是依賴檢索和比對的方式進行甄別。因為影片、影像謠言經常是把其他時間或其他地區的素材「張冠李戴」拿來進行拼接使用，依靠人工智慧技術可以辨識解決很大一部分問題。透過收集涵蓋各個不同國家和地區的各種數據、前推幾年甚至十幾年的信息，從時間到空間採集和保存足夠多的數據後，大部分謠言都可以通過檢索識別相似圖片、相似視頻幀的方式被發現。這位專家同時也提到，如果是用AI技術純粹新生成的造謠影片就很難甄別。近年來基於多模態大模型生成技術的發展，很容易產生一些全新的短視頻或圖片，用這些素材製造謠言的技術路線就發生了改變。這些新技術能夠產生從未在網上流傳過的信息，導致識別難度大大增加，以往基於檢索和比對的謠言甄別技術則收效甚微。所以對於新的生成式模型所產生的假內容如何甄別，從技術層面來講目前還在探索中。中國科協闢謠言平台特聘專家張英認為面對AI生成的涉災涉險謠言的挑戰，提升公眾辨識能力與強化網路平台監理策略是相輔相成的兩個面向。張英建議要專注於四方面的工作：一是傳播科技進展，給人民以希望；二是闢謠解釋誤區，救人民於水火；三是關注落後地區，關注易損脆弱性；四是注重公眾參與，增加公眾獲得感。針對網路平台監理策略，張英給以下建議：一是智慧審核與人工複核結合。網路平台應引進先進的AI技術輔助內容審核，並提高審核效率與準確性。同時，建立人工複審機制，對疑似謠言進行二次審查，確保審核結果的公正性和權威性。二是建立快速反應與闢謠機制。一旦發現涉災涉險謠言，網路平台應立即啟動快速反應機制，迅速刪除謠言內容，並透過官方管道發布闢謠言資訊。同時，政府部門、權威媒體等建立連動機制，共同打擊謠言傳播。三是加強用戶行為管理與引導。網路平台應與加強對使用者行為的監管和管理，對惡意傳播謠言的使用者進行處罰和警告。同時，提醒民眾要透過權威途徑獲取訊息，透過彈出式提示、使用者教育等方式引導使用者理性參與資訊傳播，共同維護良好的網路環境。四是推動資料共享與跨平台協作。鼓勵不同網路平台之間建立資料共享機制，實現資訊共享和協同作戰。透過跨平台協作，加強輿情監測、可以更全面地掌握謠言的傳播動態和範圍，為制定針對性的應對措施提供有力支持。針對大眾如何辨識AI謠言的策略，張英也給了一些建議。一是增強資訊素養教育。公眾應接受系統性的資訊素養教育，學習如何辨別資訊來源的可靠性，並理解AI生成內容的限制和潛在風險。平時相關產業主管部門、主流媒體、科普專家也應該透過多種形式進行科普宣教，例如中國科協打造了闢謠平台，針對生命健康、食藥與應急安全等老百姓關注的領域開展闢謠工作、科普宣傳，中央網信辦也進行了年度闢謠工作榜單發布等工作，取得了較好的效果。同時，相關部門應該透過案例分析、模擬演練等方式，提升大眾對謠言的警覺性和辨識能力。二是多通路驗證資訊。鼓勵民眾在面對涉災涉險資訊時，採取多管道驗證的方法。除了官方媒體和政府機構發布的資訊外，還可以利用搜尋引擎、社群媒體上的官方帳號以及第三方事實查核機構等資源，綜合判斷資訊的真實性。以地震預報為例，短臨預報仍是世界難題，相關法規規定，只有省級以上政府才有發布相關消息的權限，切不可輕信地震謠言。第三是培養批判性思考。培養大眾的批判性思維，學會對資訊進行獨立分析與評估。對於過於誇張、情緒化或缺乏具體證據的訊息，要保持謹慎態度，不輕信、不傳播。就地震而言，地震並不可怕，只要建築設防達標或準備充分，一般不會造成災難性後果，無需過度恐懼。同時，緊急避險方法而言：沒有放諸四海皆準的緊急避險方法，公眾應該科學思考，因地、因時、因人制宜面對不同場所、不同大小的火災，如何應對也應該科學思考、處置。