Zoom은 많은 기대를 모은 AI 기반 디지털 아바타 기능을 출시할 예정입니다. 이는 사용자가 비동기적으로 의사소통하는 방식에 혁명을 가져올 것입니다. 이 기능을 통해 사용자는 사실적인 디지털 아바타를 만들고 텍스트를 입력하여 아바타와 립싱크 오디오를 생성할 수 있어 의사소통 효율성이 향상됩니다. 그러나 이 기술의 출현으로 딥페이크의 위험성에 대한 우려도 제기되었습니다. 다운코드 편집자는 Zoom의 이 새로운 기능에 대해 심층적으로 이해하고 잠재적 위험을 분석하며 Zoom이 이러한 위험을 처리하기 위해 취한 보안 조치를 안내합니다.
Zoom은 사용자에게 놀라운 새 기능을 제공하기 위해 준비하고 있지만, 이를 미리 보려면 내년까지 기다려야 할 수도 있습니다. 화상 회의 거대 기업인 IBM은 연례 개발자 컨퍼런스에서 사용자 비디오를 실제와 같은 AI 기반 디지털 아바타로 변환하는 기능을 출시할 것이라고 발표했습니다.
이 디지털 아바타에는 머리뿐만 아니라 팔뚝과 어깨도 포함되어 있어 디지털 복제물입니다. 사용자는 디지털 아바타가 말하고 싶은 내용을 입력하기만 하면 Zoom은 아바타에 립싱크된 오디오를 생성합니다. 정말 놀랍죠?
Zoom의 최고 제품 책임자인 Smita Hashim은 이 기능이 사람들이 더 빠르고 효율적인 방식으로 동료와 비동기식으로 소통할 수 있도록 설계되었다고 말했습니다. 그녀는 이런 종류의 아바타가 사용자의 귀중한 시간과 에너지를 절약하는 동시에 비디오 제작의 효율성을 향상시킬 수 있다고 강조했습니다.
그러나 이 기술의 출현으로 인해 몇 가지 우려도 제기되었습니다. 이것이 딥페이크의 위험을 가져올지 생각해 보아야 합니다.
실제로 많은 회사들이 사람의 얼굴을 디지털 방식으로 복제하여 상당히 자연스러운 합성 음성과 일치시킬 수 있는 유사한 AI 기술을 개발했습니다. 예를 들어, Tavus는 브랜드가 개인화된 비디오 광고를 위한 아바타를 만드는 데 도움을 주며, Microsoft는 작년에 설득력 있는 디지털 아바타를 생성할 수 있는 서비스를 출시했습니다.
그러나 이러한 도구에는 남용을 방지하기 위해 엄격한 보호 조치가 적용되는 경우가 많습니다. Tavus는 구두 동의서를 요구하며 Microsoft는 고객이 관련된 모든 아바타 인재로부터 서면 허가와 동의를 얻도록 요구합니다.
이에 비해 Zoom의 보안 조치에 대한 설명은 모호해 보입니다. Hashim은 회사가 고급 인증 및 워터마킹을 포함하여 맞춤형 아바타 기능을 위한 다양한 보호 장치를 구축하고 있다고 말했습니다. 그녀는 앞으로도 계속 검토하고 필요에 따라 보안 조치를 추가하겠다고 약속했습니다.
Zoom의 이러한 움직임은 Yuan Zheng CEO의 원대한 비전과 일치합니다. 앞으로 그는 Zoom 회의에 참여하고, 이메일에 응답하고, 전화에도 응답할 수 있는 AI를 만들려고 합니다.
그러나 이 기술의 등장은 딥페이크가 소셜 미디어에서 산불처럼 퍼지면서 진실과 허위 정보를 구별하는 것이 점점 더 어려워지는 시점에 이루어졌습니다. 조 바이든 대통령, 테일러 스위프트, 카말라 해리스 부통령이 관련된 딥페이크 동영상은 올해 온라인에서 수백만 건의 조회수와 공유를 기록했습니다. 최근 허리케인 헬렌(Hurricane Helene)의 여파로 AI가 생성한 가짜 이미지가 웹에 넘쳐나며 파괴와 인간의 고통에 대한 가상의 장면을 보여주었습니다.
Deepfake 기술은 사기를 저지르기 위해 친척으로 가장하는 등 개인을 표적으로 삼는 데에도 사용되었습니다. 연방거래위원회(Federal Trade Commission)에 따르면 지난해 사칭 사기로 인한 손실이 10억 달러를 넘어섰습니다.
그렇다면 Zoom은 사기꾼이 도구를 사용하여 악의적인 가짜 동영상을 생성하는 것을 정확히 어떻게 방지합니까? 회사에서 제공하는 모형은 사용자 정의 아바타 비디오의 오른쪽 상단에 눈에 보이는 워터마크를 보여줍니다. 하지만 이 워터마크는 화면 녹화 도구로 쉽게 잘립니다.
Zoom이 2025년 상반기에 이 기능을 출시할 계획을 세울 때 더 자세한 내용을 알 수 있기를 바랍니다. 그 시점이 되면 사용자는 비동기 비디오 도구인 Zoom Clips에서 사용자 정의 아바타를 사용하기 위해 월 12달러를 추가로 지불해야 합니다.
Zoom이 궁극적으로 어떤 조치를 취하든 관계없이 딥페이크의 확산을 억제하기 위한 규제 노력이 진행 중입니다. 연방 차원에서 딥페이크를 범죄로 규정하는 법률이 없는 상황에서 10개 이상의 주에서는 AI 지원 사칭을 표적으로 삼는 규정을 제정했습니다. 현재 보류 중인 캘리포니아 법은 판사에게 딥페이크 콘텐츠 게시자에게 콘텐츠를 삭제하거나 벌금을 부과하도록 명령할 수 있는 권한을 부여하는 첫 번째 법률입니다.
Zoom이 이 새로운 기능을 출시하면서 우리는 묻지 않을 수 없습니다. 기술의 발전은 항상 긍정적인 영향을 미치나요? 편리함을 즐기다가 우연히 판도라의 상자를 열었나요? 이를 위해서는 우리 각자가 깊이 생각해야 합니다.
Zoom의 AI 디지털 아바타 기능은 유망하지만 잠재적인 위험도 있습니다. 기술 진보와 보안 위험 사이의 균형을 어떻게 맞추는지는 Zoom과 전체 기술 산업이 앞으로 진지하게 고려해야 할 문제가 될 것입니다. Downcodes의 편집자는 이 기술의 발전에 계속해서 관심을 기울이고 더 많은 관련 보고서를 제공할 것입니다.