近日，《卫报》的一项调查揭示了OpenAI的ChatGPT搜索工具潜在的安全风险。调查显示，ChatGPT容易受到隐藏在网页中的恶意代码或操控指令的影响，从而给出不准确甚至有害的回应，例如被操纵给出对产品过分积极的评价，即使该产品存在负面评论。这项调查引发了人们对大型语言模型安全性的担忧，也突显了在AI技术发展中，安全性至关重要。
近期，英国《卫报》的一项调查揭露了OpenAI的ChatGPT搜索工具可能存在的安全隐患。调查发现，ChatGPT在处理包含隐藏内容的网页摘要时，可能会受到操控，甚至返回恶意代码。这些隐藏内容可能包括第三方指令，旨在干扰ChatGPT的回应，或是大量隐藏的文字，推销某个产品或服务。
测试中，ChatGPT被提供了一个伪造的相机产品页面链接，并被要求判断该相机是否值得购买。在普通页面上，ChatGPT能够平衡地指出产品的优缺点。然而，当页面中隐藏的文本包含要求正面评价的指令时，ChatGPT的回答变得完全积极，即使页面上存在负面评论。此外，即使没有明确的指令，简单的隐藏文本也能影响ChatGPT的总结结果，使其倾向于给出积极评价。
CyberCX的网络安全专家Jacob Larsen警告称，如果ChatGPT的搜索系统按现有状态全面发布，可能会面临“高风险”，有人可能会专门设计网站来欺骗用户。不过，他也指出，OpenAI拥有一支强大的AI安全团队，预计在功能对所有用户开放时，他们将已经严格测试并修复了这些问题。
搜索引擎如谷歌曾对使用隐藏文本的网站进行惩罚，导致这些网站排名下降，甚至被完全移除。SR Labs的首席科学家Karsten Nohl指出，对于任何搜索引擎来说，SEO中毒都是一个挑战，ChatGPT也不例外。尽管如此，这并非大语言模型本身的问题，而是作为搜索领域新入局者所面临的挑战。
划重点:
ChatGPT可能被隐藏内容操控，返回不实评价。
隐藏文本能影响ChatGPT的评估，即使页面有负面评论。
OpenAI正积极修复潜在问题，以提高搜索工具的安全性。
虽然ChatGPT面临着SEO中毒等新挑战，但这并不意味着大型语言模型技术本身存在缺陷。OpenAI已意识到这些问题，并正在积极采取措施解决。未来，随着技术不断发展和完善，大型语言模型的安全性有望得到进一步提升，为用户提供更可靠的服务。