Com o rápido desenvolvimento da tecnologia de falsificação profunda, a segurança da rede enfrenta desafios sem precedentes. A proliferação de informações falsas ameaça seriamente a segurança pessoal e social. Para fazer face a este problema, as empresas tecnológicas têm procurado soluções, entre as quais a tecnologia de marca de água é considerada um dos métodos eficazes de prevenção. Este artigo se concentrará no Meta Video Seal, a mais recente ferramenta de marca d'água de vídeo AI lançada pela Meta Company, bem como nos recursos técnicos e planos de desenvolvimento futuro desta ferramenta.
À medida que a tecnologia deepfake se torna mais popular, a quantidade de conteúdo falso na web explodiu. De acordo com a plataforma de verificação de identidade Sumsub, o número de deepfakes quadruplicará de 2023 a 2024, com os deepfakes representando 7% de todas as fraudes em 2024. Isso inclui falsificação de identidade, controle de contas e ataques sofisticados de engenharia social.
Para enfrentar esse desafio, a Meta lançou recentemente uma nova ferramenta de marca d'água, Meta Video Seal, projetada para adicionar uma marca d'água quase imperceptível a videoclipes gerados por IA. A ferramenta é de código aberto e projetada para se integrar perfeitamente ao software existente. Meta Video Seal junta-se a outras ferramentas de marca d'água existentes do Meta, como Watermark Anything e Audio Seal.
“Desenvolvemos o Video Seal para fornecer uma solução de marca d’água de vídeo mais eficaz, especificamente para detectar vídeos gerados por IA e proteger a originalidade”, disse Pierre Fernandez, cientista pesquisador de IA da Meta, ao TechCrunch.
Embora o Video Seal não seja a primeira tecnologia desse tipo, a DeepMind e a Microsoft também possuem tecnologia semelhante de marca d’água de vídeo, mas Fernandez acredita que algumas soluções existentes apresentam deficiências. Ele ressaltou: “Muitas ferramentas de marca d'água não são robustas o suficiente na compressão de vídeo, não podem ser amplamente utilizadas em plataformas sociais e carecem de abertura e reprodutibilidade”.
Além das marcas d'água, o Video Seal pode adicionar informações ocultas aos vídeos para posteriormente identificar sua origem. Meta afirma que a ferramenta é resistente a operações comuns de edição, como desfoque e corte, bem como algoritmos de compactação populares. No entanto, Fernandez também reconhece que o Video Seal tem um compromisso entre a perceptibilidade da marca d’água e a sua robustez contra a manipulação. A compactação excessiva e a edição pesada podem afetar as marcas d'água e até torná-las irrecuperáveis.
É claro que o maior desafio para o Video Seal é que a adoção pelos desenvolvedores e pela indústria pode ser baixa, especialmente para empresas que já utilizam soluções proprietárias. Para resolver este problema, a Meta planeja lançar uma lista de classificação pública - Meta Omni Seal Bench, usada especificamente para comparar o desempenho de diferentes métodos de marca d'água, e realizar um workshop sobre marca d'água na conferência ICLR deste ano.
Fernandez espera que cada vez mais pesquisadores e desenvolvedores de IA integrem alguma forma de marca d'água em seu trabalho, trabalhando com a indústria e a academia para promover o progresso neste campo.
O lançamento do Meta Video Seal fornece uma nova arma contra falsificações profundas, mas seu efeito final ainda precisa de tempo e prática para ser testado. O código aberto e a colaboração da indústria serão fatores-chave para garantir a sua eficácia. Somente através dos esforços conjuntos de toda a indústria poderemos lidar eficazmente com os desafios trazidos pela falsificação profunda e manter a segurança e a ordem do ciberespaço.