최근 Shenzhen Reecho Technology Co., Ltd.는 자체 개발한 AI 더빙 대형 모델 플랫폼 Reecho가 가짜 오디오 및 비디오 제작에 사용된 사건에 대해 성명을 발표했습니다. 이번 사건에서 피의자는 리초를 이용해 피해자 루의 목소리를 복제해 허위사실을 유포했다. 다운코드 편집자가 사건 및 관련 대응에 대한 자세한 설명을 제공할 것입니다.
Shenzhen Reecho Technology Co., Ltd.는 최근 9월 16일에 유포된 오디오 및 비디오 자료 중 오디오 부분이 피의자가 자체 개발한 Reecho AI 더빙 대형 모델 플랫폼을 사용하여 복제했음을 확인하는 성명을 발표했습니다. 오디오는 Lu의 라이브 방송 클립에서 나옵니다.
회사는 합법적이고 규정을 준수하는 기술 적용을 보장하기 위해 사용자 신원 인증 및 오디오 생성에 대한 보안 제어를 강화하기 위해 내부 감사 메커니즘을 시작했습니다.
Reecho Ruisheng은 창업 팀이 설립된 지 채 1년도 되지 않은 Yanyu Technology가 최첨단 오디오 기술과 의인화 인공 지능을 탐구하는 데 전념하고 있다고 말했습니다. Reecho는 최초의 대중을 위한 AI 오디오 합성 및 더빙 기술 플랫폼으로 자체 개발한 첨단 기술을 통해 창의적인 콘텐츠 제작의 효율성과 편의성을 향상시키는 것을 목표로 합니다.
동시에 허페이시 공안국 하이테크 부서는 9월 20일 경보를 받고 루와 관련된 허위 오디오 및 비디오에 대한 조사를 시작했습니다. 경찰은 조사 끝에 9월 22일 저녁 25세의 피의자 왕(25)을 체포했고, 그가 인공지능(AI) 도구를 사용해 오디오를 위조하고 영상을 합성해 유포해 유포한 사실을 발견했다. 왕씨는 법에 따라 형사상 강제조치를 취했으며, 해당 사건은 아직 추가 조사가 진행 중이다.
이번 사건은 AI 기술 적용 과정에 존재하는 보안 위험을 노출시켰으며, AI 기업들에게 기술적 보안 보호와 윤리 기준을 강화할 것을 상기시켰다. 루이유테크놀로지의 대응은 문제를 인지하고 개선을 위해 적극적으로 조치를 취하고 있음을 보여준다. 앞으로 AI 기술이 더욱 안전하고 규정을 준수하는 환경에서 발전하여 사회에 더 많은 가치를 창출할 수 있기를 바랍니다.