Recentemente, a tecnologia de mudança de rosto de IA tem sido usada em transmissões ao vivo para trazer mercadorias, o que atraiu ampla atenção do público. Um relato que imitou a transmissão ao vivo do Dr. Zhang Wenhong sobre a venda de produtos enganou muitas pessoas, especialmente os telespectadores mais velhos que não estavam familiarizados com a tecnologia de IA. Depois que o incidente foi exposto, o próprio Zhang Wenhong respondeu e disse que havia reclamado várias vezes na plataforma. Este incidente destaca os riscos do uso indevido da tecnologia de IA e as deficiências do público no discernimento da informação.
Recentemente, um vídeo atraiu grande atenção na Internet. No vídeo, uma conta imitando Zhang Wenhong apareceu em uma transmissão ao vivo vendendo uma barra de proteína.
Muitos internautas questionaram isso: “Zhang Wenhong está trazendo mercadorias?” O que é ainda mais preocupante é que alguns espectadores mais velhos estão convencidos deste vídeo e até fizeram pedidos e encaminharam as informações em grupos sociais. Após verificação pelos repórteres, foi descoberto que Zhang Wenhong no vídeo não era uma pessoa real, mas uma falsificação profunda sintetizada por meio de tecnologia de IA.
Em resposta, Zhang Wenhong disse que existe mais de uma conta de vendas e está em constante mudança. Ele reclamou várias vezes com a plataforma. Isso vem acontecendo há algumas semanas e inicialmente foi feita uma reclamação. Especialmente algumas pessoas mais velhas que não estão muito familiarizadas com a IA acreditarão facilmente.
Com o desenvolvimento da tecnologia de inteligência artificial, a forma de transmissão ao vivo com mercadorias está em constante mudança. Hoje em dia, a tecnologia de IA pode gerar rostos e vozes altamente realistas, o que permite que alguns criminosos utilizem estas tecnologias para cometer fraudes. Recentemente, a voz de um certo empresário famoso foi sintetizada pela tecnologia de IA e espalhada online, causando um enorme impacto. Zhang Wenhong, que desta vez foi sintetizado pela IA, teve um desempenho muito realista durante a transmissão ao vivo. Embora ainda houvesse falhas no nível técnico, ele ainda enganou muitas pessoas.
Este incidente suscitou preocupação pública sobre a autenticidade da informação, especialmente entre os idosos, cuja consciência das novas tecnologias é relativamente lenta e vulnerável ao engano. No entanto, qualquer pessoa, não apenas os idosos, pode correr o risco de ser enganada por informações falsificadas da IA. Não podemos confiar totalmente no julgamento individual para identificar estas informações falsas, pelo que as precauções técnicas relevantes são particularmente importantes.
Durante a transmissão ao vivo, a conta que imitava Zhang Wenhong não indicou claramente sua identidade e só transmitiu ao vivo à meia-noite. Esse sigilo mostra os esforços e a eficácia da plataforma no gerenciamento do caos da IA. Embora o desenvolvimento da tecnologia de IA nos tenha trazido comodidade, também trouxe novos desafios à sociedade. Para fazer face ao aumento da contrafacção que poderá ocorrer no futuro, é urgente estabelecer um mecanismo de prevenção de riscos mais completo.
Destaques:
Zhang Wenhong sintetizado por IA causou discussões acaloradas durante a transmissão ao vivo, e alguns internautas entenderam mal sua identidade.
A sensibilização do público para as novas tecnologias fica para trás e este é facilmente afetado por informações falsas.
É crucial reforçar as medidas técnicas de prevenção e os mecanismos de monitorização da informação e melhorar as capacidades de identificação do público.
Os riscos trazidos pela tecnologia de mudança de face da IA não podem ser ignorados. As plataformas precisam de reforçar a supervisão e melhorar as capacidades de reconhecimento da informação do público, a fim de lidar eficazmente com os desafios trazidos pela tecnologia de IA. Só fortalecendo a educação nacional em matéria de literacia digital e popularizando o conhecimento sobre prevenção poderemos proteger melhor os nossos próprios direitos e interesses e construir um ambiente de rede mais seguro.