Google DeepMind 宣布將SynthID 技術開源，並將其集成到Gemini 模型中。 SynthID for Text 是一種為AI 生成的文本添加水印的技術，通過微調LLM 預測的下一個標記概率來實現，不影響文本質量和創造力。這項技術能夠在不改變文本內容的情況下，可靠地識別AI 生成的文本，為應對AI 生成內容的挑戰提供了一種新的解決方案。它適用於多種語言，並已集成到Gemini 應用和網站中，方便用戶使用。
SynthID 會對生成的文本添加一個隱蔽的水印，即使經過編輯也能被識別出來。 Google DeepMind 聲稱其性能優於現有文本水印系統，並已將該技術開源，方便開發者和研究者使用和改進。這項技術的開源發布，將有助於推動AI 生成內容的可靠性和透明度，為構建更安全可靠的AI 生態系統做出貢獻。
近日，Google DeepMind 正在將其SynthID 技術集成到其Gemini 模型中，並將其作為開源項目發布。 SynthID for Text 使用複雜的流程來干預大型語言模型（LLM） 的文本生成。
SynthID 會略微調整LLM 預測的下一個標記的概率分數，但前提是它不會影響輸出的質量、準確性或創造力。這個過程會對所有生成的文本重複，形成了水印。
據Google DeepMind 介紹，這項技術可以應用於最少三句話。對於較長的文本，水印會變得更加穩健和準確。雖然該方法適用於各種語言，但在編輯AI 文本時，它存在一些弱點。
Google DeepMind 已將SynthID 集成到Gemini 應用程序和網站中，用於為生成的文本添加水印和識別。該技術還可作為開源項目在GitHub、Google Responsible Generative AI Toolkit和Hugging Face上使用。
Google DeepMind 聲稱SynthID 的表現優於現有的文本水印系統。此前，Google DeepMind 已推出用於圖像、語音和音樂的SynthID 。
Google DeepMind 開源SynthID 技術的舉措，標誌著在對抗AI 生成內容濫用方面邁出了重要一步，也體現了其對負責任AI 開發的承諾。未來，隨著技術的不斷完善和應用範圍的擴大，SynthID 將在保障信息安全和維護內容真實性方面發揮更大的作用。