OpenAI 내에서는 ChatGPT 워터마크 기술 적용을 두고 열띤 논의가 이뤄지고 있다. OpenAI가 개발한 AI 텍스트 워터마크 기술은 학술 표절을 방지하기 위해 고안된 것이지만 기술 적용에 있어서도 논란과 난제도 뒤따랐다. 단어와 구문을 조정하여 감지 가능한 패턴을 만드는 이 기술은 99.9% 정확하고 단순한 의역에 강하다고 합니다. 그러나 OpenAI는 복잡한 재작성이 워터마크를 쉽게 우회할 수 있으며 워터마크가 일부 사용자, 특히 일부 비원어민 사용자를 귀찮게 하여 사용자 경험과 사용에 영향을 미칠 수 있다는 점도 인정했습니다.
최근 오픈AI는 워터마킹 기술을 두고 내부 논의에 휩싸였다. 월스트리트저널에 따르면 회사는 이미 ChatGPT에서 생성된 텍스트를 표시하는 워터마킹 기술을 개발했으며 탐지 도구도 준비했다. 하지만 이 기술을 시장에 내놓을지에 대해서는 내부 의견이 분분하다.
어떤 관점에서 보면 워터마크 기술을 출시하는 것은 책임감 있는 일처럼 보입니다. 이 기술은 모델이 예측한 단어와 문구를 조정하여 감지 가능한 패턴을 생성합니다. 다소 복잡하게 들리지만 그 목적은 분명합니다. 즉, 교사가 학생들이 AI를 사용하여 생성된 과제를 표절하는 것을 방지하도록 돕는 것입니다. 보고서에는 이 워터마크가 챗봇의 텍스트 품질에 영향을 미치지 않는다고 명시되어 있습니다. 또한 OpenAI는 전 세계적으로 AI 탐지 도구를 지원하는 사람의 수가 반대자보다 4배나 많은 설문 조사를 실시한 것으로 나타났습니다.
그러나 워터마킹 기술의 구현은 그리 간단하지 않습니다. OpenAI의 블로그 업데이트에서는 회사가 워터마킹 기술을 개발했음을 확인하고 이 방법이 매우 정확하며 "99.9% 효과적"이라고 주장했습니다. 게다가 이러한 종류의 워터마크는 간단한 재작성 등의 "변조"에 대한 저항력이 어느 정도 있습니다. 하지만 OpenAI는 이 워터마크를 다른 모델로 다시 작성하면 쉽게 우회할 수 있다는 점도 지적해 우려를 자아냈습니다.
또한 OpenAI는 워터마크로 인해 일부 사용자, 특히 비원어민 사용자가 낙인찍힌 느낌을 받을 수 있다고 생각합니다. 따라서 일부 직원은 워터마크가 효과적이라고 생각하지만 설문 조사에 따르면 ChatGPT 사용자의 거의 30%가 워터마크를 구현하면 사용량이 줄어들 것이라고 답했습니다. 그 결과, 일부 직원들은 효율성이 아직 입증되지 않았음에도 불구하고 "비교적 논란의 여지가 적은" 방법을 모색할 것을 제안했습니다.
오늘 블로그 업데이트에서 OpenAI는 "초기 단계"에 메타데이터를 삽입하는 방법을 모색하고 있으며 그것이 얼마나 효과적인지 말하기에는 아직 이르다고 말했습니다. 그러나 그들은 이 메타데이터가 암호화 방식으로 서명되기 때문에 오탐을 피할 수 있다고 지적합니다.
하이라이트:
✅ 워터마킹 기술 출시와 관련하여 OpenAI 내부에서도 이견이 있으며, 출시 여부는 아직 논의 중입니다.
설문 조사에 따르면 전 세계 대부분의 사람들이 AI 탐지 도구를 지원하지만 사용자는 워터마크가 사용에 영향을 미칠 것이라고 우려하고 있습니다.
OpenAI는 기술과 사용자 경험 사이의 균형을 찾기 위해 메타데이터 삽입을 고려하고 있습니다.
워터마킹 기술에 대한 OpenAI의 신중한 태도는 기술 개발과 사용자 경험 사이의 균형을 찾으려는 노력을 반영합니다. 앞으로 인공지능 분야에서는 AI가 생성한 콘텐츠를 식별하고 사용자 개인 정보를 보호하는 문제를 어떻게 효과적으로 해결하는가가 중요한 문제가 될 것입니다.