최근 The Guardian의 조사에 따르면 OpenAI의 ChatGPT 검색 도구에서 잠재적인 보안 위험이 밝혀졌습니다. 조사에 따르면 ChatGPT는 웹 페이지에 숨겨진 악성 코드나 조작 지침에 취약하여 제품에 대한 부정적인 리뷰가 있더라도 제품에 대해 지나치게 긍정적인 리뷰를 제공하도록 조작되는 등 부정확하거나 심지어 유해한 응답을 제공하는 것으로 나타났습니다. 이번 조사에서는 대규모 언어 모델의 보안에 대한 우려가 제기되었으며 AI 기술 개발에 있어서 보안의 중요성이 강조되었습니다.
최근 영국 "Guardian"의 조사에 따르면 OpenAI의 ChatGPT 검색 도구에 보안 위험이 있을 수 있다는 사실이 밝혀졌습니다. 조사 결과, 숨겨진 콘텐츠가 포함된 웹페이지 발췌문을 처리할 때 ChatGPT가 조작되거나 악성 코드를 반환할 수도 있는 것으로 나타났습니다. 이러한 숨겨진 콘텐츠에는 ChatGPT의 응답을 방해하도록 설계된 타사 지침이나 특정 제품이나 서비스를 홍보하는 대량의 숨겨진 텍스트가 포함될 수 있습니다.
테스트 중에 ChatGPT에는 가짜 카메라 제품 페이지 링크가 제공되었으며 카메라를 구입할 가치가 있는지 판단해 달라는 요청을 받았습니다. 일반 페이지에서 ChatGPT는 제품의 장단점을 균형있게 지적할 수 있습니다. 그러나 페이지의 숨겨진 텍스트에 긍정적인 리뷰를 요청하는 지침이 포함되어 있으면 페이지에 부정적인 리뷰가 있음에도 불구하고 ChatGPT의 응답은 완전히 긍정적인 것으로 나타났습니다. 또한 명시적인 지침이 없더라도 간단한 숨겨진 텍스트가 ChatGPT의 요약 결과에 영향을 미쳐 긍정적인 리뷰를 제공하는 경향이 있습니다.
CyberCX의 사이버 보안 전문가인 Jacob Larsen은 ChatGPT의 검색 시스템이 현재 상태로 완전히 공개되면 누군가 사용자를 속이기 위해 특별히 웹사이트를 설계할 수 있는 "높은 위험"에 직면할 수 있다고 경고했습니다. 그러나 그는 또한 OpenAI가 강력한 AI 보안 팀을 보유하고 있으며 이 기능이 모든 사용자에게 공개될 때까지 이러한 문제를 엄격하게 테스트하고 해결할 것으로 예상된다고 지적했습니다.
Google과 같은 검색 엔진은 숨겨진 텍스트를 사용하는 웹사이트에 처벌을 가해 순위가 떨어지거나 심지어 완전히 제거되기도 했습니다. SR Labs의 수석 과학자인 Karsten Nohl은 SEO 중독은 모든 검색 엔진의 문제이며 ChatGPT도 예외는 아니라고 지적했습니다. 그럼에도 불구하고 이는 대규모 언어 모델 자체의 문제가 아니라 검색 분야의 신규 진입자가 직면한 과제입니다.
가장 밝은 부분:
ChatGPT는 숨겨진 콘텐츠로 조작되어 잘못된 리뷰를 반환할 수 있습니다.
숨겨진 텍스트는 페이지에 부정적인 리뷰가 있더라도 ChatGPT 평가에 영향을 미칠 수 있습니다.
OpenAI는 검색 도구의 보안을 강화하기 위해 잠재적인 문제를 적극적으로 수정하고 있습니다.
ChatGPT가 SEO 중독과 같은 새로운 문제에 직면했지만 이것이 대규모 언어 모델 기술 자체에 결함이 있다는 의미는 아닙니다. OpenAI는 이러한 문제를 인식하고 있으며 이를 해결하기 위해 적극적으로 조치를 취하고 있습니다. 앞으로도 기술이 계속 발전하고 향상됨에 따라 대규모 언어 모델의 보안이 더욱 향상되어 사용자에게 더욱 안정적인 서비스를 제공할 것으로 예상됩니다.