O rápido desenvolvimento da tecnologia Deepfake trouxe sérias ameaças à segurança da rede e informações falsas são generalizadas. Segundo as estatísticas, a fraude relacionada com o Deepfake cresceu rapidamente e tornou-se um problema que não pode ser ignorado. Para enfrentar esse desafio, as empresas de tecnologia têm buscado soluções uma após a outra. Entre elas, a ferramenta Video Seal lançada pela Meta Company tem chamado muita atenção. A ferramenta visa combater deepfakes adicionando marcas d'água imperceptíveis a vídeos gerados por IA e está abrindo o código-fonte de sua tecnologia para promover colaboração e desenvolvimento mais amplos.
Hoje, os deepfakes são difundidos. À medida que a IA generativa ganha popularidade, o conteúdo falso na web explode. De acordo com estatísticas da plataforma de verificação de identidade Sumsub, o número de Deepfakes globais quadruplicará de 2023 a 2024. Em 2024, o Deepfake será responsável por 7% de todas as fraudes, desde falsificação de identidade e roubo de contas até ataques complexos de engenharia social, todos envolvendo Deepfake.
Para combater eficazmente os Deepfakes, a Meta lançou recentemente uma ferramenta que pode adicionar marcas d'água imperceptíveis a videoclipes gerados por IA. A ferramenta, chamada Meta Video Seal, foi anunciada como código aberto na quinta-feira e foi projetada para ser integrada a softwares existentes. Esta ferramenta se junta a outras ferramentas de marca d'água do Meta Watermark Anything (relançada hoje sob uma licença permissiva) e Audio Seal para formar uma solução completa de marca d'água.
“Desenvolvemos o Video Seal para fornecer uma solução de marca d'água de vídeo mais eficaz, especialmente quando se trata de detectar vídeos gerados por IA e proteger a originalidade”, disse o cientista pesquisador da Meta AI, Pierre Fernandez, ao TechCrunch.
O Video Seal não é a primeira tecnologia desse tipo. O SynthID da DeepMind pode adicionar marcas d'água aos vídeos, e a Microsoft também tem seu próprio método de marca d'água de vídeo.
Mas Fernandez acredita que muitos métodos existentes são insuficientes.
"Embora existam outras ferramentas de marca d'água, elas não são robustas o suficiente para compressão de vídeo (o que é muito comum quando o conteúdo é compartilhado através de plataformas sociais); não funcionam com eficiência suficiente para aplicações em larga escala; não são abertas ou repetíveis o suficiente; ou são derivadas de marcas d’água de imagem e marcas d’água de imagem não são a melhor opção para vídeo”, disse Fernandez.
Além das marcas d'água, o Video Seal pode adicionar mensagens ocultas aos vídeos para posteriormente revelar a origem do vídeo. Meta afirma que o Video Seal pode resistir a operações comuns de edição, como desfoque e corte, bem como algoritmos de compressão comuns.
Fernandez reconheceu que o Video Seal tem certas limitações, principalmente uma compensação entre a percepção da marca d'água e sua resistência geral à manipulação. Ele acrescentou que a compactação e a edição pesadas podem alterar a marca d'água ou torná-la irrecuperável.
Claro, o maior problema do Video Seal é que não há muitos motivos para os desenvolvedores e a indústria adotá-lo, especialmente aqueles que já usam soluções proprietárias. Para resolver esse problema, a Meta está lançando uma lista de classificação pública, Meta Omni Seal Bench, projetada especificamente para comparar o desempenho de vários métodos de marca d'água. Além disso, a Meta organizará um workshop sobre marcas d'água na ICLR (Conferência Internacional sobre Representações de Aprendizagem) deste ano. ICLR é uma importante conferência de IA.
“Esperamos que mais e mais pesquisadores e desenvolvedores de IA integrem alguma forma de marca d'água em seu trabalho”, disse Fernandez. “Esperamos trabalhar com a indústria e a academia para avançar mais rapidamente no progresso neste campo”.
Este movimento da Meta sem dúvida fornece novas ideias para combater a proliferação do Deepfake. O código aberto e a colaboração aberta podem ser uma forma eficaz de resolver este problema espinhoso. No entanto, o futuro do Video Seal ainda depende de ele ser amplamente aceito e aplicado pela indústria e de sua capacidade de lutar contra Deepfakes.
Em suma, a ferramenta Video Seal da Meta oferece uma nova tentativa de combater o Deepfake, mas seu sucesso ainda está para ser visto. No futuro, mais inovação tecnológica e cooperação da indústria serão necessárias para resolver efetivamente o problema do Deepfake. O código aberto e o espírito colaborativo são fundamentais, mas exigem tempo e esforço sustentado.