인공지능 기술은 급속도로 발전하고 있으며, 그 응용 중 하나인 심층위조기술은 우리 삶에 큰 영향을 미치고 있습니다. 이 기술은 매우 사실적인 가짜 동영상 및 이미지를 생성할 수 있어 많은 편리함을 제공하지만 유명인의 이미지를 이용해 사기를 저지르는 등 심각한 위험도 초래합니다. 이 기사에서는 대중의 위험 인식을 높이고 사회 질서를 유지하는 것을 목표로 심층 위조 기술이 가져오는 과제와 대응책에 대해 논의할 것입니다.
최근 몇 년 동안 AI는 음성 비서부터 자율주행 기술까지 삶의 모든 측면에 침투해 왔습니다. 그러나 AI 기술의 광범위한 적용은 잠재적인 위험도 수반하며, 그 중 딥페이크 기술이 사회적 관심을 끌었습니다.
Deepfake 기술은 알고리즘을 사용하여 매우 사실적인 허위 콘텐츠를 생성합니다. 대량의 실제 데이터로부터 학습하여 사람이나 장면과 매우 유사한 동영상이나 이미지를 생성합니다. 이 기술은 AI의 위력을 보여주지만 사기를 낳기도 합니다. 예를 들어, 최근 생방송을 홍보하기 위해 Zhang Wenhong 박사의 이미지와 음성을 사용하는 것처럼 가장하는 사건이 발생했습니다. 가짜 영상에서는 합성 인물이 특정 제품을 홍보해 1,200개 이상의 품목이 판매되는 결과를 낳았다. 이 사건은 Zhang Wenhong 박사와 대중 사이에 강한 불만을 불러일으켰습니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
상하이 소비자 권리 보호 위원회 사무차장 Tang Jiansheng은 AI 기술을 통해 유명인의 이미지를 사칭하는 행위는 심각한 소비자 권리 침해에 해당한다고 말했습니다. 유사한 사례로는 국경절에 레이준의 프로필 사진을 사용해 스푸핑 영상을 제작하는 사람들, 트래픽을 유도하기 위해 유우(Andy Lau)의 목소리를 사칭하는 사람들 등이 있다. 관련 기업과 연예인들은 대중들에게 더욱 경각심을 불러일으키라고 목소리를 높였습니다.
전문가들은 현재 AI 기술이 타인의 얼굴과 목소리를 쉽게 복제할 수 있고, 생성되는 콘텐츠가 극도로 사실적이라고 지적한다. 그러나 이러한 유형의 기술에도 결함이 없는 것은 아닙니다. 얼굴과 배경의 혼합 또는 음성과 입 모양의 일치를 주의 깊게 관찰하면 이상 현상을 발견할 수 있습니다. 또한 현재 실시간 라이브 스트리밍은 이러한 기술로는 달성하기 어렵습니다.
법률 전문가들은 타인의 이미지나 음성을 무단으로 사용하는 것이 불법임을 분명히 밝혔습니다. 중국 정법대학 부교수인 Zhu Wei는 민법에 따르면 이러한 행위는 사이버 보안법에 따라 인격권을 침해하는 것이며 관련 콘텐츠는 불법 정보이며 출판사는 형사 책임을 질 수도 있다고 강조했습니다. .
소비자의 경우 AI 가짜 연예인이 상품을 가져와 상품을 구매하는 경우 '소비자권익보호법'에 따라 상인에게 '1개는 환불하고 3개는 보상하라'고 요구할 수 있으며, 최소 배상금액은 500위안이다. 동시에 단편 동영상 플랫폼도 규제 책임을 맡고 관련 콘텐츠에 대한 검토와 처벌을 강화하며 불법 정보의 광범위한 유포를 방지해야 합니다.
심층위조 기술의 등장은 대중에게 AI의 편리함을 즐기면서도 잠재적인 위험에 대해서도 경계해야 한다는 점을 일깨워준다.
심층 위조 기술의 도전에 직면하여 우리는 정부, 기업 및 개인이 함께 협력하여 입법 감독을 강화하고 기술 식별 기능을 향상하며 안전하고 신뢰할 수 있는 네트워크 환경을 공동으로 구축해야 합니다. 그래야만 AI 기술을 더 잘 활용하고, 악의적인 사용을 방지하며, 사회 질서와 공익을 유지할 수 있습니다.