Con el rápido desarrollo de la tecnología de inteligencia artificial, la tecnología de clonación de voz se ha vuelto cada vez más madura, pero también trae serios problemas sociales. Los delincuentes utilizan esta tecnología para realizar actividades ilegales como el fraude, lo que causa grandes problemas y pérdidas económicas al público. Muchas figuras de alto perfil, incluido David Attenborough, han sido víctimas de estafas de clonación de voces y han pedido una mayor supervisión legal para abordar esta táctica criminal emergente.
Con el avance continuo de la tecnología de inteligencia artificial, la tecnología de clonación de voz ha ido saliendo gradualmente a la luz pública, pero también han surgido sus riesgos potenciales. Recientemente, los delincuentes han clonado maliciosamente las voces de muchas personas famosas y las han utilizado como herramientas para cometer fraude. Muchas celebridades, incluido el famoso presentador de documentales sobre la naturaleza David Attenborough, han expresado su preocupación al respecto y han pedido una mayor protección legal.
Nota sobre la fuente de la imagen: la imagen es generada por AI y el proveedor de servicios de autorización de imágenes Midjourney
Recientemente, David Attenborough se sintió "profundamente perturbado" tras descubrir que su voz se utilizaba para difundir noticias políticas. Dijo que ha dedicado su vida a difundir la verdad, pero ahora descubre que otros le han robado su identidad. Esta situación lo enoja y decepciona. Además, las voces de celebridades como Jennifer Aniston, Oprah Winfrey y Kylie Jenner también han sido clonadas por delincuentes, lo que indica la universalidad de este fenómeno.
Según la última investigación, las estafas de clonación de voz con IA en el Reino Unido aumentaron un 30% el año pasado. La encuesta muestra que alrededor del 28% de las personas se han encontrado con una estafa de clonación de voz mediante IA al menos una vez durante el último año. Estas estafas a menudo presentan llamadas telefónicas borrosas y voces falsas, lo que dificulta que las víctimas noten la diferencia. Los expertos recomiendan que cuando recibas una llamada sospechosa, lo mejor es colgar inmediatamente y llamar a un número de teléfono de confianza para confirmar.
A medida que la tecnología de clonación de voz continúa mejorando, los expertos comienzan a centrarse en los desafíos legales que plantea la tecnología. El Dr. Dominic Lees dijo que las leyes actuales de privacidad y derechos de autor aún no se han adaptado al desarrollo de esta nueva tecnología, dejando a muchas víctimas como Attenborough prácticamente impotentes. Asesora al Comité de Cultura, Medios y Deporte del Parlamento del Reino Unido sobre el uso ético de la tecnología de inteligencia artificial en la producción de cine y televisión.
No solo eso, Li Si también señaló que, aunque la IA ha logrado avances significativos en la síntesis de sonido, todavía no puede comprender completamente los cambios emocionales, lo que afecta el realismo del sonido. Además, la industria del doblaje también está respondiendo rápidamente a este cambio y algunas empresas han comenzado a clonar las voces de algunos artistas para satisfacer la demanda del mercado.
En general, el auge de la tecnología de clonación de voz ha generado preocupaciones generalizadas, especialmente en términos de protección de la privacidad y la reputación personal. Los expertos piden al gobierno que tome medidas lo antes posible para hacer frente a los nuevos desafíos que plantea la tecnología de inteligencia artificial y evitar que esta tecnología se convierta en una herramienta para los delincuentes.
Destacar:
Attenborough y otros dijeron que estaban profundamente perturbados por la clonación maliciosa de voces de celebridades.
Los casos de fraude por clonación de voz con IA en el Reino Unido aumentaron un 30%, lo que aumentó la vigilancia pública.
Los expertos exigen leyes actualizadas para abordar los desafíos de privacidad y derechos de autor que plantea la tecnología de inteligencia artificial.
En definitiva, el abuso de la tecnología de clonación de voz se ha convertido en un grave problema social. Requiere que el gobierno, las empresas y los individuos trabajen juntos para fortalecer la supervisión y mejorar la conciencia pública sobre la prevención a fin de frenar eficazmente la aparición de tales delitos y proteger al público. intereses y seguridad.