Recentemente, Shenzhen Reecho Technology Co., Ltd. emitiu uma declaração em resposta ao incidente de que sua plataforma de grande modelo de dublagem de IA desenvolvida de forma independente, Reecho, foi usada para produzir áudio e vídeo falsos. Neste incidente, o suspeito utilizou Reecho para clonar a voz da vítima Lu e espalhar informações falsas. O editor de Downcodes lhe dará uma explicação detalhada do incidente e das respostas relacionadas.
emitiu recentemente um comunicado confirmando que a parte de áudio dos materiais de áudio e vídeo circulados em 16 de setembro foi clonada pelo suspeito usando sua plataforma de dublagem de grande modelo Reecho AI desenvolvida de forma independente. O áudio vem do clipe da transmissão ao vivo de Lu.
A empresa lançou um mecanismo de auditoria interna para fortalecer o controle de segurança da autenticação da identidade do usuário e geração de áudio para garantir a aplicação legal e compatível da tecnologia.
Reecho Ruisheng disse que, como uma equipe inicial criada há menos de um ano, a Yanyu Technology está comprometida em explorar as tecnologias de ponta de áudio e inteligência artificial antropomórfica. Como nossa primeira plataforma de tecnologia de dublagem e síntese de áudio com IA voltada para o público, a Reecho visa melhorar a eficiência e a conveniência da produção de conteúdo criativo por meio de tecnologia de ponta desenvolvida por nós mesmos.
Ao mesmo tempo, a Seção de Alta Tecnologia do Departamento Municipal de Segurança Pública de Hefei recebeu um alarme em 20 de setembro e iniciou uma investigação sobre áudio e vídeo falsos envolvendo Lu. Após investigação, a polícia prendeu o suspeito Wang, de 25 anos, na noite de 22 de setembro e descobriu que ele usava ferramentas de IA para falsificar áudio e sintetizar vídeos para divulgação, causando rumores generalizados. Wang tomou medidas criminais compulsórias de acordo com a lei e o caso ainda está sob investigação.
Este incidente expôs os riscos de segurança existentes no processo de aplicação da tecnologia de IA e também lembrou às empresas de IA que reforçassem a proteção da segurança técnica e os padrões éticos. A resposta da Ruiyu Technology mostra que está ciente do problema e está tomando medidas ativamente para melhorá-lo. Espera-se que a tecnologia de IA possa desenvolver-se num ambiente mais seguro e compatível no futuro e criar mais valor para a sociedade.