AI 기술의 급속한 발전은 많은 편리함을 가져왔지만 일부 부정적인 영향도 가져왔습니다. 인공지능을 활용해 허위 영상을 합성하고 허위 정보를 유포하는 사례가 늘면서 사회 질서를 심각하게 어지럽히고 사회·공익을 위태롭게 하는 사례가 늘고 있다. 이 글에서는 AI를 활용해 영상을 합성해 루머를 퍼뜨리는 사례를 설명하고, 이를 활용해 법을 위반하지 않도록 AI 기술을 올바르게 사용하도록 모든 사람에게 경고할 예정이다.
요즘에는 AI가 허위 콘텐츠를 생성하는 것은 놀라운 일이 아니지만 실제로 AI 기술을 사용하여 비디오를 합성하고 허위 정보를 게시한 혐의로 적발되었습니다.
보도에 따르면 올해 6월 샤먼 경찰은 오늘 누군가가 터우탸오(Toutiao)에 영상을 올렸다는 신고를 받았다. 그 내용은 70세 남성이 광둥성의 한 곳에서 구타당해 자살했다는 내용이었다. 강과 구타자는 형을 선고 받았습니다. 이 영상은 공개되자마자 많은 이들의 관심을 끌었습니다.
그러나 경찰 조사 결과 이는 완전한 루머임이 밝혀졌고, 해당 영상을 게시한 계정 '샤오이 간시시'의 소유자인 렌(32세, 후베이성 출신)도 이날 저녁 경찰에 체포됐다. 6월 13일.
렌은 AI 기술을 활용해 단 2~3분 만에 영상을 합성했다고 설명했다. 그는 먼저 인터넷에서 눈길을 끄는 제목을 찾은 다음 글쓰기 앱을 사용하여 허위 콘텐츠를 자동으로 생성한 다음 콘텐츠를 기반으로 자동으로 사진을 생성하고 마지막으로 이를 동영상으로 결합하여 소셜 플랫폼을 통해 게시했습니다.
이를 수행하는 그의 목적은 트래픽을 유도하고 팬 수를 늘리며 비디오 트래픽을 기반으로 수익을 창출하는 것입니다. 현재 런 씨는 말다툼을 선동하고 물의를 일으킨 혐의로 샤먼 경찰로부터 형사강제조치를 받고 있다.
이번 사건은 AI 기술이 양날의 검이라는 점을 다시 한 번 일깨워준다. 우리는 그 편리함을 즐기면서도, 불법 행위와 범죄 행위에 상응하는 법적 책임을 지지 않도록 항상 경계하고 합리적으로 사용해야 한다. 모두가 AI 기술을 올바르게 이해하고 활용하며 좋은 네트워크 환경을 공동으로 유지할 수 있기를 바랍니다.