有MCN機構利用人工智慧程式日產上千篇虛假新聞，導致大量不實信息在網上病毒式傳播；某小說平台帳號依靠AI“創作”，每日更新十幾本電子書，行文卻邏輯不通、辭藻空洞；醫學論文因使用AI生成的虛假配圖而被撤稿……當前，AI生成、偽造或篡改文本、圖片、音頻和視頻的現象越來越普遍，大量粗製濫造、真假難辨的“信息垃圾”，引發了關於“AI污染”的討論。
去年以來，生成式人工智慧在世界各地掀起一波接一波的熱潮，其顛覆性應用讓許多產業和網友受益。然而，一塊硬幣有兩面，伴隨生成式人工智慧而來的也有一些負面問題，由「資訊垃圾」導致的「AI污染」越來越突出。
清華大學新聞傳播學院新媒體研究中心今年4月發布的研究報告顯示，近一年來，經濟與企業類AI謠言量增速達99.91%。美國調查機構「新聞守衛」稱，生成虛假文章的網站數量自2023年5月以來激增1,000%以上，涉及15種語言。有專家認為，AI製造的「資訊垃圾」產量龐大，且辨別難度高、篩選成本較高。
「AI污染」帶來的危害顯而易見。 「AI污染」會讓網民陷入認知幻覺。在某知識分享平台上，看似「上知天文，下曉地理」的AI，生成的內容卻空洞生硬。在缺乏批判性思考的情況下，AI快速編織的“知識體系”，一方面可能使人們的思辨能力產生退化，另一方面也可能讓人陷入認知幻覺，引發公眾認知困惑，進而扭曲公眾對現實和科學共識的集體理解，最終讓人被AI「牽著走」。尤其對於伴隨網路成長的年輕一代，一旦他們的認知被「資訊垃圾」所塑造，後果不堪設想。
「AI污染」會反噬AI產業的發展。眾所周知，AI模型的準確性很大程度上取決於訓練資料的品質。若AI生成的虛假、垃圾內容「回流」互聯網，成為訓練AI模型的新數據，這種「垃圾進、垃圾出」的循環模式，或使AI的輸出質量斷崖式下降，不利於整個AI產業的發展。例如，某網路企業透過搜尋引擎優化，將AI產生的文章優先呈現於搜尋結果中，導致使用者難以檢索高品質訊息，引發使用者廣泛批評。
此外，「AI污染」也涉及法律、倫理甚至社會穩定等諸多議題。 AI製造的假內容，或侵犯智慧財產權、動搖版權規則，也涉嫌侵犯個人隱私、洩露身分訊息，且有濫用風險，恐擾亂、操控社會輿論，AI製造的違法行為還會加大社會治理難度。
由此可見，整治網路「AI污染」勢在必行。根據中國互聯網資訊中心發布的第54次《中國互聯網發展狀況統計報告》，截至今年6月，我國網民規模近11億人。網路建構著人類生存的新家園，年輕一代已成為網路“原住民”，可以說，整治“AI污染”是打造清朗的網路空間、保障每個網友美好生活的必要行動。
首先，應加大AI學習和生成機制的源頭治理。明確AI平台對源頭素材的把控責任和對生成內容的監管責任，完善AI內容生成規則，強制對AI生成內容打上顯著標識，提升AI技術的透明度和可解釋性。
其二，加強AI生成內容的篩檢監管。有關部門及企業需將監管重點放在AI生成內容的篩檢及審核上，可開發相關的審查演算法，規範生成內容向輿論場的流入及傳播途徑，及時發現並刪除低品質或虛假內容。
其三，提升使用者對AI生成內容的辨別能力。網友應理性對待網路訊息，增強防範意識和辨識能力，可使用反向搜尋工具，檢視內容來源和作者訊息，分析內容的語言和結構特徵，從而鑑「偽」鑑「劣」。
網路空間不是亂丟亂堆的「垃圾場」。整治「AI污染」、打造清朗安全的網路家園，需要各部門同抓共管和全社會共同參與。