Con el rápido desarrollo de la tecnología de inteligencia artificial, la tecnología de clonación de voz se ha vuelto cada vez más madura. Sin embargo, no se pueden ignorar los riesgos que conlleva. En los últimos años, ha habido muchos casos de fraude utilizando tecnología de clonación de voz, y muchas personas famosas fueron víctimas de ella, lo que generó preocupación pública sobre la tecnología y pedidos de una supervisión legal más estricta. El editor de Downcodes explicará en detalle los desafíos y las contramedidas que plantea la tecnología de clonación de sonido.
Con el avance continuo de la tecnología de inteligencia artificial, la tecnología de clonación de voz ha ido saliendo gradualmente a la luz pública, pero también han surgido sus riesgos potenciales. Recientemente, los delincuentes han clonado maliciosamente las voces de muchas personas famosas y las han utilizado como herramientas para cometer fraude. Muchas celebridades, incluido el famoso presentador de documentales sobre la naturaleza David Attenborough, han expresado su preocupación al respecto y han pedido una mayor protección legal.
Nota sobre la fuente de la imagen: la imagen es generada por AI y el proveedor de servicios de autorización de imágenes Midjourney
Recientemente, David Attenborough se sintió "profundamente perturbado" tras descubrir que su voz se utilizaba para difundir noticias políticas. Dijo que había dedicado su vida a difundir la verdad, pero ahora descubrió que otros le habían robado su identidad. Esta situación lo enojó y lo decepcionó. Además, las voces de celebridades como Jennifer Aniston, Oprah Winfrey y Kylie Jenner también han sido clonadas por delincuentes, lo que indica la universalidad de este fenómeno.
Según la última investigación, las estafas de clonación de voz con IA en el Reino Unido aumentaron un 30% el año pasado. La encuesta muestra que alrededor del 28% de las personas se han encontrado con una estafa de clonación de voz mediante IA al menos una vez durante el último año. Estas estafas a menudo presentan llamadas telefónicas borrosas y voces falsas, lo que dificulta que las víctimas noten la diferencia. Los expertos recomiendan que cuando recibas una llamada sospechosa, lo mejor es colgar inmediatamente y llamar a un número de teléfono de confianza para confirmar.
A medida que la tecnología de clonación de voz continúa mejorando, los expertos comienzan a centrarse en los desafíos legales que plantea la tecnología. El Dr. Dominic Lees dijo que las leyes actuales de privacidad y derechos de autor aún no se han adaptado al desarrollo de esta nueva tecnología, dejando a muchas víctimas como Attenborough prácticamente impotentes. Asesora al Comité de Cultura, Medios y Deporte del Parlamento del Reino Unido sobre el uso ético de la tecnología de inteligencia artificial en la producción de cine y televisión.
No solo eso, Li Si también señaló que, aunque la IA ha logrado avances significativos en la síntesis de sonido, todavía no puede comprender completamente los cambios emocionales, lo que afecta el realismo del sonido. Además, la industria del doblaje también está respondiendo rápidamente a este cambio y algunas empresas han comenzado a clonar las voces de algunos artistas para satisfacer la demanda del mercado.
En general, el auge de la tecnología de clonación de voz ha generado preocupaciones generalizadas, especialmente en términos de protección de la privacidad y la reputación personal. Los expertos piden al gobierno que tome medidas lo antes posible para hacer frente a los nuevos desafíos que plantea la tecnología de inteligencia artificial y evitar que esta tecnología se convierta en una herramienta para los delincuentes.
La tecnología de clonación de voz es un arma de doble filo y su desarrollo requiere un equilibrio entre el progreso tecnológico y las normas éticas. En el futuro, fortalecer la legislación, aumentar la conciencia pública sobre la prevención y promover el desarrollo seguro de la tecnología en sí será la clave para hacer frente a los riesgos de la tecnología de clonación de voz.