오픈AI(OpenAI)의 텍스트-비디오 AI 모델 소라(Sora)가 논란을 불러일으켰다. 소라의 초기 테스트에 참여한 아티스트 그룹은 OpenAI 사용에 불만을 품고 모델에 대한 초기 액세스 권한을 유출했으며 이에 항의하기 위해 Hugging Face 플랫폼에 공개 서한을 게시했습니다. 그들은 OpenAI가 아티스트를 무료 R&D 및 홍보 도구로 사용하고 창의성을 이용해 무급 노동을 수행한다고 비난했으며 OpenAI의 엄격한 콘텐츠 검토 시스템에 불만을 표시했습니다. 이 사건은 AI 모델 개발에 있어 예술가의 권리에 대한 논의를 촉발시켰습니다.
OpenAI는 올해 2월 텍스트-비디오 AI 모델인 Sora를 처음 선보인 이후 구체적인 업데이트를 제공하지 않았습니다. 최근 OpenAI의 새로운 텍스트-비디오 AI 모델인 Sora에 참여한 테스트 아티스트 그룹이 회사에 대한 불만으로 인해 해당 모델에 대한 조기 액세스를 유출했습니다.
AI 개발 플랫폼인 Hugging Face를 통해 Sora API 관련 프로젝트를 출시했는데, 얼리 액세스 인증 토큰을 사용해 사용자가 동영상을 생성할 수 있는 프런트엔드 인터페이스를 만들었습니다. 이 프런트 엔드를 통해 모든 사용자는 짧은 텍스트 설명을 입력하고 최대 1080p 해상도로 최대 10초 길이의 비디오를 생성할 수 있습니다.
이후 많은 사용자들이 생성된 동영상의 예를 소셜 미디어에 공유했는데, 대부분 OpenAI의 시각적 워터마크가 포함되어 있었습니다. 하지만 오픈된 지 한 시간쯤 지나서 프런트엔드 인터페이스가 작동을 멈췄다. OpenAI와 Hugging Face가 접근권한을 철회했을 가능성이 있는 것으로 추측된다.
네티즌이 생성한 사례: "플로리다의 진입로에서 농구를 하고 있는 10대 남성. 화창한 오후"라는 프롬프트 단어
네티즌 생성 사례: "0": "부드러운 크림색 베개 위에 앉아 눈에 띄는 파란 눈을 가진 복슬복슬한 새끼 고양이의 클로즈업. 새끼 고양이는 머리를 살짝 한쪽으로 기울이고 귀를 주의 깊게 뻗습니다. 배경은 다음과 같습니다. 힌트가 있는 따뜻하고 부드러운 조명의 방
아티스트들은 공개 AI 모델 플랫폼인 허깅페이스(Hugging Face)에 항의서를 게재하며 회사에서 테스트 과정에서 사용했으며 '무급 R&D 및 홍보 도구'가 됐다고 주장했다.
공개 서한에서 아티스트들은 다음과 같이 말했습니다: "친애하는 Enterprise AI Lords, 우리가 Sora에 액세스할 수 있게 되었을 때 우리는 초기 테스터이자 창의적인 파트너가 되겠다고 약속받았습니다. 그러나 우리는 단순히 '예술'에 끌려갔다고 믿습니다." 그들은 아티스트가 회사의 "무료 버그 테스터, 홍보 도구, 교육 데이터 또는 인증 토큰"이 아니라는 점을 강조했습니다.
이들 예술가들은 AI 기술을 예술적 창작의 도구로 사용하는 것에 반대하는 것이 아니라 예술가의 창의성을 무급 노동에 활용한다고 믿는 OpenAI의 조기 액세스 프로그램에 불만을 갖고 있습니다.
그들은 OpenAI가 작업에 대한 보답 없이 프로젝트에서 "예술적 신용"을 제공한다고 비판했습니다. 특히 그들은 Sora의 콘텐츠에 대한 OpenAI의 조정 요구 사항에 반대하며 생성된 각 콘텐츠를 공유하려면 먼저 OpenAI 팀의 승인을 받아야 한다고 말했습니다.
OpenAI는 언론의 연락을 받았을 때 소라 유출의 진위 여부를 확인하지는 않았지만 '연구 미리 보기'에 참여하는 아티스트는 자발적이며 피드백을 제공하거나 도구를 사용할 필요가 없다는 점을 강조했습니다. OpenAI 대변인은 "Sora는 아직 연구 단계에 있으며 창의성과 안전 조치의 균형을 맞추기 위해 열심히 노력하고 있습니다. 수백 명의 아티스트의 참여는 새로운 기능과 보호 장치의 우선 순위를 정하는 데 도움이 됩니다. 또한 OpenAI는 지속적인 지원을 약속합니다." 회사는 보조금, 이벤트 및 기타 방법으로 참여 아티스트를 지원합니다.
앞서 OpenAI의 전 CTO인 미라 무라티(Mira Murati)는 소라가 연말 이전에 출시될 것으로 예상되지만 모델의 영향에 자신이 없는 내용은 공개하지 않을 것이라고 밝혔습니다.
최근 Reddit Q&A에서 최고 제품 책임자인 Kevin Weil은 Sora가 아직 출시되지 않은 이유는 기능을 확장하고 보안을 보장하며 임포스터 문제를 방지해야 하기 때문이라고 언급했습니다.
가장 밝은 부분:
예술가들은 Sora 모델을 유출하여 OpenAI의 무료 사용에 항의했습니다.
그들은 OpenAI의 초기 테스트 프로그램이 회사의 창의성을 홍보에 사용하고 있다고 비판했습니다.
오픈AI는 이번 테스트 참여는 자발적이었다고 답하며 아티스트를 계속 지원할 것을 약속했다.
이번 사건은 AI 기술 개발에 있어 윤리와 권리의 문제를 부각시켰으며, AI 기업과 아티스트의 협력 모델에 대한 국민적 성찰을 촉발시켰습니다. 기술의 진보와 예술가의 이익 사이의 균형을 어떻게 맞출 것인가는 향후 AI 발전에 있어 진지하게 고려되어야 할 문제가 될 것이다. OpenAI 측은 아티스트 지원을 계속할 것이라고 밝혔지만, 구체적인 방안과 효과는 아직 지켜봐야 할 것으로 보인다.