Com o surgimento da IA generativa, a proliferação de informações falsas tornou-se um problema sério. O rápido desenvolvimento da tecnologia de falsificação profunda fez com que a segurança da rede enfrentasse enormes desafios. Para combater esta ameaça, a Meta lançou uma nova ferramenta chamada Meta Video Seal, que visa combater vídeos deepfake e proteger a originalidade do conteúdo através de tecnologia de marca d'água imperceptível. Esta ferramenta foi lançada como código aberto e combinada com a ferramenta de marca d’água lançada anteriormente pela Meta para formar uma solução anti-deepfake mais abrangente.
À medida que a inteligência artificial generativa se torna comercializada, a quantidade de conteúdo falso online aumentou dramaticamente. De acordo com dados da plataforma de verificação de identidade Sumsub, o número de deepfakes globais quadruplicará de 2023 a 2024. Deepfakes serão responsáveis por 7% de todas as fraudes em 2024, envolvendo tudo, desde falsificação de identidade e controle de contas até sofisticadas campanhas de engenharia social.
Para combater esse problema, a Meta lançou uma nova ferramenta, Meta Video Seal, projetada para combater deepfakes adicionando marcas d'água imperceptíveis a vídeos gerados por IA. A ferramenta, lançada como código aberto na quinta-feira, foi projetada para ser facilmente integrada ao software existente e complementar outras ferramentas de marca d'água lançadas anteriormente pela Meta, Watermark Anything e Audio Seal.
“Desenvolvemos o Video Seal para fornecer uma solução de marca d'água de vídeo mais eficaz, especificamente para detectar vídeos gerados por IA e proteger a originalidade”, disse o cientista pesquisador de inteligência artificial da Meta, Pierre Fernandez, em uma entrevista.
Embora o Video Seal não seja a primeira tecnologia de marca d'água de vídeo proposta, os métodos de marca d'água SynthID da DeepMind e da Microsoft também têm sido usados no mercado, mas Fernandez apontou que as ferramentas de marca d'água existentes geralmente apresentam algumas deficiências. Ele disse: "Embora existam outras ferramentas de marca d'água, elas não funcionam bem após a compactação de vídeo, o que é muito comum na distribuição de conteúdo em plataformas sociais; alguns métodos também operam de forma menos eficiente e não podem ser abertos ou replicados; além disso, muitos métodos são derivado de marca d'água de imagem, mas a marca d'água de imagem não é adequada para vídeo."
Além da função de marca d'água, o Video Seal também pode incorporar informações ocultas nos vídeos, que podem posteriormente ser reveladas para rastrear a origem do vídeo. Meta afirma que o Video Seal pode resistir efetivamente aos métodos de edição comuns, como desfoque e corte, bem como aos algoritmos de compressão comumente usados.
No entanto, Fernandez também reconheceu que o Video Seal tem certas limitações, especialmente o compromisso entre a perceptibilidade da marca d’água e a sua resistência à adulteração. Ele ressalta que a compactação excessiva e a edição pesada podem destruir marcas d'água ou torná-las irrecuperáveis.
Um desafio maior para Meta é a falta de incentivos para desenvolvedores e participantes da indústria usarem o Video Seal, especialmente aqueles que já usam outras soluções proprietárias. Para este fim, Meta lançou um ranking público chamado Meta Omni Seal Bench para comparar o desempenho de diferentes tecnologias de marca d'água e realizará um seminário sobre tecnologia de marca d'água na principal conferência de IA deste ano, ICLR.
“Esperamos que cada vez mais pesquisadores e desenvolvedores de IA sejam capazes de incorporar alguma forma de tecnologia de marca d’água em seu trabalho e esperamos trabalhar com a indústria e a academia para avançar no campo mais rapidamente”, disse Fernandez.
O lançamento de código aberto do Meta Video Seal fornece uma nova arma para lutar contra a falsificação profunda, mas se ele pode efetivamente conter a disseminação de informações falsas ainda requer o teste do tempo e os esforços conjuntos da indústria. O avanço contínuo e a ampla aplicação da tecnologia serão a chave para resolver este problema.