隨著AI技術的快速發展，AI生成內容的真偽辨別成為一個重要議題。假訊息氾濫對社會穩定和公眾信任造成嚴重威脅。為了因應這項挑戰，有效打擊AI產生的假訊息，騰訊推出了全新AI生成內容偵測工具，旨在利用AI技術鑑別AI產生的文字和影像，維持網路環境的健康與安全。
隨著人工智慧技術的快速發展，AI 生成的文字、圖像和影片在各個領域的應用日益成熟。然而，這也伴隨著信任危機的出現，虛假訊息的傳播對社會造成了潛在的威脅。為了因應這項挑戰，騰訊於近日推出了一款全新的AI 生成內容偵測工具，旨在透過AI 技術「打假AI」。
這款工具由騰訊的朱雀實驗室研發，分為AI 生成文字偵測和AI 生成影像偵測兩個系統。騰訊官方指出，儘管AI 產生的影像在外觀上愈加真實，但仍存在一定的可辨識性。透過對上傳影像進行幾秒鐘的快速驗證，使用者可以判斷該影像是否由AI 產生。
在偵測邏輯上，系統主要是透過捕捉真實影像與AI 生成影像之間的細微差異來進行區分。例如，AI 生成的圖像有時會違反常識邏輯，或者可能在某些情況下需要添加浮水印。此外，AI 生成影像還可能包含特定的隱層特徵。為了確保檢測的準確性，騰訊在模型訓練中使用了140萬份正負樣本，涵蓋了人體、風景、人物、地標等多種場景，最終測試的檢出率達到了95% 以上，並且系統還在持續優化中。
在文本檢測方面，騰訊的檢測系統同樣依賴大量正負樣本進行訓練，能夠涵蓋新聞、公文、小說、散文等多樣化文體。透過對比檢測文本與大模型的預測內容，系統能夠推測出文本的AI 生成機率，從而提升對未見過數據的檢測能力。未來，騰訊也計劃將文本檢測系統擴展至詩歌等其他體裁，以進一步提高辨識準確率。
透過這項創新舉措，騰訊希望能為用戶提供更安全、更可信的網路環境，有效抵制假訊息的傳播，助力社會的健康發展。
騰訊的AI生成內容檢測工具，以其高準確率和持續優化的能力，為應對AI生成虛假信息提供了有效手段，為構建更加清朗的網絡空間貢獻力量，值得期待其未來的發展和應用。