隨著AI生成內容的日益普及，如何有效辨識其真偽成為一個重要議題。騰訊為解決此問題，於2025年1月17日上線了一款AI生成圖片鑑別工具。此工具由騰訊混元安全團隊的朱雀實驗室研發，旨在幫助使用者快速且準確地辨別圖片是否由AI生成，提升內容鑑別效率，維護網路環境的真實性與安全性。此工具利用先進的AI模型，透過分析圖片的紋理、語意和隱形特徵等多種維度進行判斷，有效提升了偵測準確率。
2025年1月17日，騰訊上線了一款AI生成圖片鑑別工具，旨在幫助人們辨別圖片是否由AI產生。
騰訊混元安全團隊的朱雀實驗室研發的AI生成圖片偵測系統，透過上傳圖片、等待驗證，幾秒鐘就能判斷圖片是否由AI產生。這個系統主要透過捕捉真實圖片與AI生圖之間的差異來區分，如AI生圖有時不符合常識邏輯，會出現帶著翅膀飛的小狗、叼著雪茄的貓咪等不符合現實的內容; AI生成圖片需要“加浮水印”，即添加顯式或隱式標識，這些標識可能肉眼可見，也可能不明顯，需用檢測工具讀取;AI生成圖片還包含一些肉眼不可見的隱層特徵，如調整HSV色彩空間後，AI生成的圖片會出現局部紋理密集分佈的亮點等。
鑑別AI生成圖片無法只依賴單一依據，偵測系統需利用AI模型捕捉各類特徵差異，包括圖片的紋理、語意及隱形特徵。朱雀實驗室使用了140萬份正負樣本進行模型訓練，涵蓋多種生成內容場景，最終測試檢出率達95%以上，且還在持續優化提升中。朱雀實驗室也開發了文本檢測系統，透過對海量資料學習實現文本檢測，背後也蒐集了大量正負樣本進行訓練，並運用對比方式推斷文章的AI生成機率，以增強對未見過數據的檢測能力。目前，該系統涵蓋了新聞通訊、公文、小說、散文等多樣化文體，後續也將對詩歌等體裁進行補強。
朱雀實驗室開發AI檢測工具的初衷是優化混元大模型的訓練語料，但隨著AI的爆發式增長，學界和業界對「用AI檢測AI生成」的需求增多，實驗室便開發了AI生成圖片偵測、AI生成文字偵測兩款工具，並提供體驗服務。
未來，也將推出AI生成影片的檢測工具，進一步完善檢測能力。
體驗地址：
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
騰訊AI生成圖片鑑別工具的上線，標誌著在對抗AI生成內容的假訊息方面取得了重要進展。 未來，隨著科技的不斷完善，相信這類工具將能更好地服務社會，並維護網路生態的健康發展。