Com o rápido desenvolvimento da tecnologia de inteligência artificial, a tecnologia de clonagem de voz tornou-se cada vez mais madura. No entanto, os riscos que ela traz não podem ser ignorados. Nos últimos anos, tem havido muitos casos de fraude utilizando tecnologia de clonagem de voz, com muitas pessoas famosas a serem vítimas dela, suscitando preocupações públicas sobre a tecnologia e apelos a uma supervisão jurídica mais forte. O editor do Downcodes explicará detalhadamente os desafios e contramedidas trazidos pela tecnologia de clonagem de som.
Com o avanço contínuo da tecnologia de inteligência artificial, a tecnologia de clonagem de voz tornou-se gradualmente visível ao público, mas os seus riscos potenciais também surgiram. Recentemente, as vozes de muitas pessoas famosas foram clonadas maliciosamente por criminosos e usadas como ferramentas para fraudes. Muitas celebridades, incluindo o famoso apresentador de documentários sobre a natureza, David Attenborough, expressaram preocupações sobre isto e apelaram a uma protecção jurídica mais forte.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Recentemente, David Attenborough sentiu-se “profundamente perturbado” ao descobrir que a sua voz era usada para divulgar notícias políticas. Ele disse que dedicou sua vida a espalhar a verdade, mas agora descobriu que sua identidade havia sido roubada por outras pessoas. Esta situação o deixou irritado e desapontado. Além disso, vozes de celebridades como Jennifer Aniston, Oprah Winfrey e Kylie Jenner também foram clonadas por criminosos, indicando a universalidade desse fenômeno.
Os golpes de clonagem de voz de IA no Reino Unido aumentaram 30% no ano passado, de acordo com a última investigação. A pesquisa mostra que cerca de 28% das pessoas encontraram um golpe de clonagem de voz de IA pelo menos uma vez no ano passado. Esses golpes geralmente apresentam ligações borradas e vozes falsas, tornando difícil para as vítimas perceberem a diferença. Os especialistas recomendam que, ao receber uma chamada suspeita, é melhor desligar imediatamente e ligar para um número de telefone confiável para confirmar.
À medida que a tecnologia de clonagem de voz continua a melhorar, os especialistas começam a concentrar-se nos desafios legais colocados pela tecnologia. Dr. Dominic Lees disse que as atuais leis de privacidade e direitos autorais ainda não se adaptaram ao desenvolvimento desta nova tecnologia, deixando muitas vítimas, como Attenborough, virtualmente impotentes. Ele assessora o Comitê de Cultura, Mídia e Esporte do Parlamento do Reino Unido sobre o uso ético da tecnologia de IA na produção cinematográfica e televisiva.
Além disso, Li Si também destacou que, embora a IA tenha feito progressos significativos na síntese sonora, ainda não consegue compreender completamente as mudanças emocionais, afetando assim o realismo do som. Além disso, a indústria da dobragem também está a responder rapidamente a esta mudança, e algumas empresas começaram a clonar as vozes de alguns artistas para satisfazer a procura do mercado.
No geral, a ascensão da tecnologia de clonagem de voz suscitou preocupações generalizadas, especialmente em termos de protecção da privacidade e da reputação pessoal. Os especialistas apelam ao governo para que tome medidas o mais rapidamente possível para lidar com os novos desafios trazidos pela tecnologia de IA e evitar que esta tecnologia se torne uma ferramenta para criminosos.
A tecnologia de clonagem de voz é uma faca de dois gumes e o seu desenvolvimento requer um equilíbrio entre o progresso tecnológico e as normas éticas. No futuro, o reforço da legislação, a sensibilização do público para a prevenção e a promoção do desenvolvimento seguro da própria tecnologia serão a chave para lidar com os riscos da tecnologia de clonagem de voz.