OpenAI 正在研發一項能夠辨識ChatGPT 生成文字的水印技術，旨在應對AI生成內容氾濫的問題。這項技術透過對單字選擇進行細微調整，在文本中嵌入不可見的水印，從而實現溯源。雖然該技術在某些情況下表現良好，但面對文字篡改等情況，其效果會大打折扣，並且可能對某些特定群體產生不成比例的影響。因此，OpenAI 採取謹慎態度，並同時探索其他解決方案，例如分類器和元資料等。
根據《華爾街日報》報道，OpenAI 已開發出高精度識別ChatGPT 生成文本的工具，但尚未正式發布。該工具計劃透過在文本中嵌入不可見的水印來識別ChatGPT 生成的內容，但這項技術仍面臨諸多挑戰，例如面對文本修改和翻譯時的失效問題，以及對特定人群的潛在歧視。 OpenAI 強調，這項技術只是他們探索的多種解決方案之一，他們將謹慎地推進這項研究，並優先考慮開發視聽內容的認證工具。 這一舉動引發了業界對AI 生成內容識別和管理的廣泛討論，如何在保護創新和防範風險之間取得平衡成為焦點。
OpenAI 表示，文字浮水印只是他們探索的多種解決方案之一，其他方案還包括分類器和元資料等，旨在確定文字的來源。雖然在某些情況下文字浮水印技術表現出色，但面對翻譯、改寫或插入特殊字元等篡改行為時，其效果會有所下降。此外，該技術可能對非英語母語者等特定群體產生不成比例的影響。
鑑於上述複雜因素及其對整個生態系統的潛在影響，OpenAI 表示將謹慎地推進文本溯源技術的研究，並優先考慮開發視聽內容的認證工具。
這項決策引發了業界對AI 生成內容識別和管理問題的廣泛討論。隨著AI 技術的快速發展，如何在保護創新與防範風險之間取得平衡，成為各方關注的焦點。
OpenAI 對AI內容溯源技術的謹慎態度反映了技術發展的複雜性與倫理挑戰。未來，如何有效識別和管理AI生成內容，將是人工智慧領域持續關注的重點議題，需要技術、政策和倫理等多方面共同努力。