A Zoom está prestes a lançar o tão aguardado recurso de avatar digital baseado em IA, que revolucionará a forma como os usuários se comunicam de forma assíncrona. Esse recurso permite que os usuários criem avatares digitais realistas e gerem áudio sincronizado com os lábios do avatar inserindo texto, melhorando a eficiência da comunicação. No entanto, o surgimento desta tecnologia também levantou preocupações sobre os riscos dos deepfakes. O editor de Downcodes levará você a conhecer a fundo esse novo recurso do Zoom, analisar seus riscos potenciais e as medidas de segurança que o Zoom tomou para lidar com esses riscos.
O Zoom está se preparando para trazer um novo recurso incrível para seus usuários, mas talvez tenhamos que esperar até o próximo ano para ter uma ideia dele. A gigante da videoconferência anunciou em sua conferência anual de desenvolvedores que lançará um recurso que transformará os vídeos dos usuários em avatares digitais realistas com tecnologia de IA.
Este avatar digital inclui não apenas a cabeça, mas também os braços e ombros, tornando-o um clone digital. Os usuários simplesmente inserem o que desejam que seu avatar digital diga e o Zoom gera áudio sincronizado com os lábios do avatar. Parece incrível, certo?
Smita Hashim, diretora de produtos da Zoom, disse que o recurso foi projetado para ajudar as pessoas a se comunicarem de forma assíncrona com os colegas de maneira mais rápida e eficiente. Ela enfatizou que esse tipo de avatar pode economizar tempo e energia valiosos dos usuários, ao mesmo tempo que melhora a eficiência da criação de vídeos.
No entanto, o surgimento desta tecnologia também levantou algumas preocupações. Temos que pensar se isso trará o risco de deepfake?
Na verdade, muitas empresas desenvolveram tecnologia de IA semelhante que pode clonar digitalmente o rosto de uma pessoa e combiná-lo com uma voz sintetizada bastante natural. Por exemplo, a Tavus ajuda marcas a criar avatares para anúncios em vídeo personalizados, enquanto a Microsoft lançou no ano passado um serviço que pode gerar avatares digitais convincentes.
Mas essas ferramentas geralmente possuem proteções rígidas para evitar abusos. A Tavus exige uma declaração de consentimento verbal e a Microsoft exige que seus clientes obtenham permissão e consentimento por escrito de todos os avatares envolvidos.
Em comparação, a descrição do Zoom das suas medidas de segurança parece vaga. Hashim disse que a empresa está construindo várias proteções para o recurso de avatar personalizado, incluindo autenticação avançada e marca d’água. Ela prometeu continuar revisando e adicionando medidas de segurança conforme necessário no futuro.
Esta mudança da Zoom coincide com a grande visão do CEO Yuan Zheng. No futuro, ele espera criar uma IA que possa participar de reuniões do Zoom, responder e-mails e até mesmo atender ligações em seu nome.
No entanto, o surgimento da tecnologia surge num momento em que os deepfakes se espalham como um incêndio nas redes sociais, tornando cada vez mais difícil distinguir a verdade da desinformação. Vídeos deepfake envolvendo o presidente Joe Biden, Taylor Swift e a vice-presidente Kamala Harris receberam milhões de visualizações e compartilhamentos online este ano. Recentemente, na sequência do furacão Helene, uma enxurrada de imagens falsas geradas por IA inundou a web, mostrando cenas fictícias de destruição e sofrimento humano.
A tecnologia Deepfake também tem sido usada para atingir indivíduos, como se passar por parentes para cometer fraudes. De acordo com a Comissão Federal de Comércio, as perdas relacionadas a fraudes de falsificação de identidade ultrapassaram US$ 1 bilhão no ano passado.
Então, como exatamente o Zoom evita que golpistas usem suas ferramentas para gerar vídeos falsos maliciosos? Uma maquete fornecida pela empresa mostra uma marca d'água visível no canto superior direito do vídeo do avatar personalizado. Mas essa marca d'água é facilmente cortada por ferramentas de gravação de tela.
Esperamos saber mais detalhes quando o Zoom planejar lançar esse recurso no primeiro semestre de 2025. Nesse ponto, os usuários terão que pagar US$ 12 adicionais por mês para usar avatares personalizados no Zoom Clips, sua ferramenta de vídeo assíncrona.
Independentemente das medidas que o Zoom tome, esforços regulatórios estão em andamento para tentar conter a proliferação de deepfakes. Na ausência de leis que criminalizem os deepfakes em nível federal, mais de 10 estados promulgaram regulamentações visando a falsificação de identidade assistida por IA. A lei da Califórnia, que está atualmente suspensa, seria a primeira a dar aos juízes o poder de ordenar que os editores de conteúdo deepfake removam o conteúdo ou enfrentem possíveis multas.
À medida que o Zoom lança esse novo recurso, não podemos deixar de perguntar: o progresso tecnológico sempre tem um impacto positivo? Ao desfrutarmos da conveniência, abrimos inadvertidamente a Caixa de Pandora?
Embora o recurso de avatar digital de IA do Zoom seja promissor, ele também apresenta riscos potenciais. Como encontrar um equilíbrio entre o progresso tecnológico e os riscos de segurança será uma questão que a Zoom e toda a indústria tecnológica terão de considerar seriamente no futuro. O editor do Downcodes continuará atento ao progresso desta tecnologia e trazendo mais relatórios relacionados.