Avec l’essor de l’IA générative, la prolifération de fausses informations est devenue un problème sérieux. Le développement rapide de la technologie de contrefaçon profonde a posé d’énormes défis à la sécurité des réseaux. Pour lutter contre cette menace, Meta a lancé un nouvel outil appelé Meta Video Seal, qui vise à lutter contre les vidéos deepfake et à protéger l'originalité du contenu grâce à une technologie de filigrane imperceptible. Cet outil a été publié en open source et combiné avec l’outil de filigrane précédemment publié par Meta pour former une solution anti-deepfake plus complète.
Avec la commercialisation de l’intelligence artificielle générative, la quantité de faux contenus en ligne a considérablement augmenté. Selon les données de la plateforme de vérification d’identité Sumsub, le nombre de deepfakes dans le monde va quadrupler entre 2023 et 2024. Les deepfakes représenteront 7 % de toutes les fraudes en 2024, allant de l'usurpation d'identité et du piratage de compte aux campagnes sophistiquées d'ingénierie sociale.
Pour lutter contre ce problème, Meta a publié un nouvel outil, Meta Video Seal, conçu pour lutter contre les deepfakes en ajoutant des filigranes imperceptibles aux vidéos générées par l'IA. L'outil, publié jeudi en open source, est conçu pour être facilement intégré aux logiciels existants et compléter les autres outils de filigrane précédemment lancés par Meta, Watermark Anything et Audio Seal.
"Nous avons développé Video Seal pour fournir une solution de filigrane vidéo plus efficace, spécifiquement pour détecter les vidéos générées par l'IA et protéger l'originalité", a déclaré Pierre Fernandez, chercheur en intelligence artificielle chez Meta, dans une interview.
Bien que Video Seal ne soit pas la première technologie de filigrane vidéo proposée, les méthodes de filigrane SynthID de DeepMind et Microsoft ont également été utilisées sur le marché, mais Fernandez a souligné que les outils de filigrane existants présentent généralement certaines lacunes. Il a déclaré : « Bien qu'il existe d'autres outils de filigrane, ils ne fonctionnent pas bien après la compression vidéo, ce qui est très courant lors de la distribution de contenu sur les plateformes sociales ; certaines méthodes fonctionnent également moins efficacement et ne peuvent pas être ouvertes ou répliquées ; en outre, de nombreuses méthodes sont dérivé du filigrane d’image, mais le filigrane d’image ne convient pas à la vidéo. »
En plus de la fonction de filigrane, Video Seal peut également intégrer des informations cachées dans les vidéos, qui peuvent ensuite être révélées pour retracer la source de la vidéo. Meta affirme que Video Seal peut résister efficacement aux méthodes d'édition courantes telles que le flou et le recadrage, ainsi qu'aux algorithmes de compression couramment utilisés.
Cependant, Fernandez a également reconnu que Video Seal présente certaines limites, notamment le compromis entre la perceptibilité du filigrane et sa résistance à la falsification. Il souligne qu'une compression excessive et une édition lourde peuvent détruire les filigranes ou les rendre irrécupérables.
Un défi plus important pour Meta est le manque d’incitations pour les développeurs et les acteurs de l’industrie à utiliser Video Seal, en particulier ceux qui utilisent déjà d’autres solutions propriétaires. À cette fin, Meta a lancé une liste de classement publique appelée Meta Omni Seal Bench pour comparer les performances des différentes technologies de filigrane, et organisera un séminaire sur la technologie de filigrane lors de la grande conférence sur l'IA de cette année, ICLR.
"Nous espérons que de plus en plus de chercheurs et de développeurs en IA intégreront une certaine forme de technologie de filigrane dans leur travail, et nous espérons travailler avec l'industrie et le monde universitaire pour accélérer les progrès dans ce domaine", a déclaré Fernandez.
La version open source de Meta Video Seal fournit une nouvelle arme pour lutter contre la contrefaçon profonde, mais sa capacité à freiner efficacement la propagation de fausses informations nécessite encore l'épreuve du temps et les efforts conjoints de l'industrie. Le progrès continu et l’application généralisée de la technologie seront la clé pour résoudre ce problème.