Recientemente, Shenzhen Reecho Technology Co., Ltd. emitió una declaración en respuesta al incidente de que su plataforma de modelo grande de doblaje de IA desarrollada independientemente, Reecho, se utilizó para producir audio y video falsos. En este incidente, el sospechoso utilizó a Reecho para clonar la voz de la víctima Lu y difundir información falsa. El editor de Downcodes le dará una explicación detallada del incidente y las respuestas relacionadas.
Shenzhen Reecho Technology Co., Ltd. emitió recientemente una declaración confirmando que la parte de audio de los materiales de audio y video que circularon el 16 de septiembre fue clonada por el sospechoso utilizando su plataforma de modelo grande de doblaje de IA Reecho desarrollada independientemente. El audio proviene del clip de transmisión en vivo de Lu.
La compañía ha lanzado un mecanismo de auditoría interna para fortalecer el control de seguridad de la autenticación de identidad del usuario y la generación de audio para garantizar la aplicación legal y compatible de la tecnología.
Reecho Ruisheng dijo que, como equipo de nueva creación establecido hace menos de un año, Yanyu Technology está comprometido a explorar las tecnologías de vanguardia de audio e inteligencia artificial antropomórfica. Como nuestra primera plataforma de tecnología de doblaje y síntesis de audio con IA de cara al público, Reecho tiene como objetivo mejorar la eficiencia y la conveniencia de la producción de contenido creativo a través de tecnología de vanguardia de desarrollo propio.
Al mismo tiempo, la sucursal de alta tecnología de la Oficina de Seguridad Pública Municipal de Hefei recibió una alarma el 20 de septiembre e inició una investigación sobre el audio y video falso que involucraba a Lu. Después de la investigación, la policía arrestó al sospechoso Wang, de 25 años, la noche del 22 de septiembre y descubrió que utilizó herramientas de inteligencia artificial para falsificar audio y sintetizar videos para su difusión, lo que provocó rumores generalizados. Wang ha tomado medidas penales obligatorias de conformidad con la ley y el caso aún está bajo investigación.
Este incidente expuso los riesgos de seguridad existentes en el proceso de aplicación de la tecnología de IA y también recordó a las empresas de IA que deben fortalecer la protección de la seguridad técnica y los estándares éticos. La respuesta de Ruiyu Technology demuestra que es consciente del problema y está tomando medidas activamente para mejorarlo. Se espera que la tecnología de IA pueda desarrollarse en un entorno más seguro y compatible en el futuro y crear más valor para la sociedad.