경제일보에 따르면 AI가 제작한 일련의 더빙 영상은 놀라울 정도로 사실적일 뿐 아니라 실제 사람과 거의 동일한 사운드 특성을 갖고 있어 화제를 모았다. 단시간에 1억회. 그러나 해당 동영상의 콘텐츠는 이미지 속 공인과 아무런 관련이 없으며 플랫폼에서 삭제되었습니다.
AI 기술의 발전으로 심층위조와 저비용 대량생산의 문턱이 낮아졌고, AI가 생성한 이미지, 음성변조, 얼굴변환 영상이 대거 등장했다. 이러한 영상은 눈길을 사로잡지만 그 뒤에 숨겨진 위험도 무시할 수 없습니다.
현재 허위 정보의 생성과 유포는 세계적인 문제가 되었고, 이를 현실처럼 보이게 하기 위한 인공지능 합성 기술을 활용하는 것은 일반 사람들의 정보 식별에 어려움을 주고 있습니다. '2024년 인공지능 보안 보고서'에서는 2023년 AI 기반 심층위조 사기가 30배나 급증해 네트워크 보안과 사회보장에 심각한 위협이 될 것으로 내다봤다. 허위정보의 확산은 사이버공간의 정상적인 질서를 교란시킬 뿐만 아니라, 가상세계의 부정적인 감정을 현실로 전달하여 사회적 불안을 가중시킬 수도 있습니다.
심층 위조와 같은 혼란을 처리하려면 다자간 협력과 공동 거버넌스가 필요합니다. 현재 우리나라는 콘텐츠의 근원적 관리를 강화하기 위해 '인터넷정보서비스 심층종합관리에 관한 규정' 등의 법령을 공포하고 있다. 이와 함께 '인공지능에 의해 생성된 합성 콘텐츠 표시 방안(의견 초안)'이 발표되면서 국가 차원에서 AI 기술에 대한 감독이 강화되고 있음이 드러났다. AI가 합법적이고 규정을 준수하는 프레임워크 내에서 건전하게 발전할 수 있어야만 사람들은 기술 변화가 가져오는 배당금을 진정으로 누릴 수 있고 인공지능 산업의 건전한 발전을 촉진할 수 있습니다.
정보 전파의 중요한 부분으로서 플랫폼 운영자와 서비스 제공자도 상응하는 책임을 져야 하며, AI 생성 콘텐츠에 대한 제한선을 긋고, 불법, 침해, 사기 콘텐츠의 전파를 엄격히 금지하고 허위 정보 확산을 방지하기 위해 눈에 띄는 경고 표시를 추가해야 합니다. . 또한 디지털 워터마크, 타임스탬프, 해시 함수 및 기타 기술적 수단을 사용하면 정보의 진위 여부에 대한 검증 가능성을 높일 수 있을 뿐만 아니라 허위 정보의 확산을 방지하는 효과적인 수단이 될 수 있습니다. 콘텐츠 소비자로서 청중도 경계심을 유지하고, AI 생성 콘텐츠를 식별하는 능력을 향상하고, 편향된 믿음을 피해야 합니다.