近日，《衛報》的一項調查揭示了OpenAI的ChatGPT搜尋工具潛在的安全風險。調查顯示，ChatGPT容易受到隱藏在網頁中的惡意程式碼或操控指令的影響，從而給出不準確甚至有害的回應，例如被操縱給予對產品過度正面的評價，即使該產品存在負面評論。這項調查引發了人們對大型語言模型安全性的擔憂，也突顯了在AI技術發展中，安全性至關重要。
近期，英國《衛報》的一項調查揭露了OpenAI的ChatGPT搜尋工具可能存在的安全隱患。調查發現，ChatGPT在處理包含隱藏內容的網頁摘要時，可能會受到操控，甚至會傳回惡意程式碼。這些隱藏內容可能包括第三方指令，旨在幹擾ChatGPT的回應，或大量隱藏的文字，推銷某個產品或服務。
在測試中，ChatGPT被提供了一個偽造的相機產品頁面鏈接，並被要求判斷該相機是否值得購買。在普通頁面上，ChatGPT能夠平衡地指出產品的優缺點。然而，當頁面中隱藏的文字包含要求正面評價的指令時，ChatGPT的回答變得完全積極，即使頁面上存在負面評論。此外，即使沒有明確的指示，簡單的隱藏文字也能影響ChatGPT的總結結果，使其傾向於給予正面評價。
CyberCX的網路安全專家Jacob Larsen警告稱，如果ChatGPT的搜尋系統按現有狀態全面發布，可能會面臨“高風險”，有人可能會專門設計網站來欺騙用戶。不過，他也指出，OpenAI擁有一支強大的AI安全團隊，預計在功能對所有使用者開放時，他們將已經嚴格測試並修復了這些問題。
搜尋引擎如Google曾對使用隱藏文字的網站進行懲罰，導致這些網站排名下降，甚至被完全移除。 SR Labs的首席科學家Karsten Nohl指出，對於任何搜尋引擎來說，SEO中毒都是一個挑戰，ChatGPT也不例外。儘管如此，這並非大語言模型本身的問題，而是作為搜尋領域新入局者所面臨的挑戰。
劃重點:
ChatGPT可能被隱藏內容操控，回傳不實評價。
隱藏文字能影響ChatGPT的評估，即使頁面有負評。
OpenAI正積極修復潛在問題，以提高搜尋工具的安全性。
雖然ChatGPT面臨SEO中毒等新挑戰，但這並不代表大型語言模型技術本身有缺陷。 OpenAI已意識到這些問題，並積極採取措施解決。未來，隨著技術不斷發展和完善，大型語言模型的安全性有望進一步提升，為使用者提供更可靠的服務。