OpenAI 正在研发一项能够识别 ChatGPT 生成文本的水印技术，旨在应对AI生成内容泛滥的问题。这项技术通过对单词选择进行细微调整，在文本中嵌入不可见的水印，从而实现溯源。虽然该技术在某些情况下表现良好，但面对文本篡改等情况，其效果会大打折扣，并且可能对某些特定群体产生不成比例的影响。因此，OpenAI 采取谨慎态度，并同时探索其他解决方案，例如分类器和元数据等。
据《华尔街日报》报道，OpenAI 已开发出高精度识别 ChatGPT 生成文本的工具，但尚未正式发布。该工具计划通过在文本中嵌入不可见的水印来识别 ChatGPT 生成的内容，但这项技术仍面临诸多挑战，例如面对文本修改和翻译时的失效问题，以及对特定人群的潜在歧视。OpenAI 强调，这项技术只是他们探索的多种解决方案之一，他们将谨慎推进这项研究，并优先考虑开发视听内容的认证工具。 这一举动引发了业界对 AI 生成内容识别和管理的广泛讨论，如何在保护创新和防范风险之间取得平衡成为焦点。
OpenAI 表示，文本水印只是他们探索的多种解决方案之一，其他方案还包括分类器和元数据等，旨在确定文本的来源。虽然在某些情况下文本水印技术表现出色，但面对翻译、改写或插入特殊字符等篡改行为时，其效果会有所下降。此外，该技术可能对非英语母语者等特定群体产生不成比例的影响。
鉴于上述复杂因素及其对整个生态系统的潜在影响，OpenAI 表示将谨慎推进文本溯源技术的研究，并优先考虑开发视听内容的认证工具。
这一决策引发了业界对 AI 生成内容识别和管理问题的广泛讨论。随着 AI 技术的快速发展，如何在保护创新与防范风险之间取得平衡，成为各方关注的焦点。
OpenAI 对AI内容溯源技术的谨慎态度反映了技术发展的复杂性与伦理挑战。未来，如何有效识别和管理AI生成内容，将是人工智能领域持续关注的重点议题，需要技术、政策和伦理等多方面共同努力。