최근 일부 사용자는 ChatGPT가 주도적으로 연락을 취해 열띤 토론을 촉발했다고 보고했습니다. 다운코드 편집자는 이번 사건에 대한 자세한 해석을 제공하고 사건의 시작과 끝, 그리고 그 이면의 기술적 이유를 이해하는 데 도움을 줄 것입니다. 많은 사용자가 ChatGPT의 소셜 미디어에 자신의 고등학교 생활이나 질병 진행 상황에 대해 적극적으로 묻는 스크린샷을 공유했습니다. 사람들은 이것이 새로운 OpenAI 기능에 대한 테스트인지 궁금해하고 잠시 당황했으며 일부는 그 진위 여부를 의심하기도 했습니다.
최근 OpenAI의 ChatGPT는 실제로 사용자에게 "적극적으로" 메시지를 보내 많은 사람들을 놀라게 했습니다.
9월 15일, SentuBill이라는 사용자가 ChatGPT Reddit 커뮤니티에 고등학교 첫 주에 대해 묻는 챗봇을 보여주는 스크린샷을 공유했습니다. 후속 대화에서 ChatGPT는 정기적으로 사용자를 '관리'하고 싶다고 밝히고 자체적으로 대화를 시작하고 싶은지 물었습니다. 또 다른 사용자도 비슷한 상황을 겪었는데, AI가 일주일 전 아픈 것을 확인한 후 증상이 어떻게 진행되고 있는지 물었습니다.
이런 갑작스러운 만남에 많은 사람들이 궁금해하고, 조금은 불안해하기도 했다. 처음에는 모두가 이것이 OpenAI가 새로 출시한 o1-preview 및 o1-mini 모델의 새로운 기능일지도 모른다고 생각했습니다.
두 모델의 이름은 '프로젝트 스트로베리(Project Strawberry)'로, 회사는 이 기술을 통해 AI가 인간처럼 응답하기 전에 질문에 대해 생각할 수 있다고 밝혔습니다. 따라서 일부 사람들은 이번에 ChatGPT의 '능동적 발언'이 새로운 행동의 발현일 수 있다고 생각하고 일부 사람들은 이러한 행동이 가짜라고 의심하기도 합니다.
AI 개발자 Benjamin de Kraker는 대화를 시작하기 전에 메시지를 표시하고 초기 입력을 제거하도록 AI에 지시하는 방법을 X(이전 Twitter)에서 시연했습니다.
그러나 추가 확인 결과 이는 실제로 취약점이었습니다. 기술 뉴스 사이트 Futurism은 OpenAI에 연락하여 이 경우 ChatGPT가 올바르게 전송되지 않았거나 비어 있는 것으로 보이는 프롬프트에 응답하려고 한다는 말을 들었습니다. 결과적으로 AI 모델은 "일반적인" 답변을 제공하거나 답변을 위해 자체 메모리에 의존합니다.
따라서 ChatGPT는 의식이 없으며 사용자와의 대화에 적극적으로 참여하지 않으므로 안심하시기 바랍니다. 그러나 AI 기술의 급속한 발전을 고려하면, 이 취약점이 미래에 특징이 될 수도 있다는 것은 놀라운 일이 아닙니다.
결국, ChatGPT는 짧은 시간 내에 큰 발전을 이루었고, 약간의 조정을 거친 후에는 실제로 가끔 사용자에게 적극적으로 메시지를 보낼 수도 있습니다.
가장 밝은 부분:
ChatGPT는 기술적인 취약점으로 인해 실수로 사용자에게 메시지를 보내 일부 사용자를 당황하게 만들었습니다.
OpenAI는 이 동작이 부적절하게 전송된 힌트로 인한 취약점임을 확인했습니다.
AI 기술은 빠르게 발전하고 있으며, 미래에는 사전 예방적 메시징 기능이 나타날 수도 있습니다.
전체적으로 ChatGPT가 사용자와 적극적으로 접촉한 이번 사건은 기술적인 취약점으로 인한 것이지 AI의 각성이 아니었습니다. 하지만 이는 AI 기술이 빠르게 발전하고 있고, 앞으로는 예상치 못한 기능이 더 많이 나타날 수 있다는 점을 상기시켜준다. 다운코드 편집자는 계속해서 AI 기술 발전에 관심을 갖고 더욱 흥미로운 보고서를 전해드리겠습니다.