Avec le développement rapide de la technologie de contrefaçon profonde, la sécurité des réseaux est confrontée à des défis sans précédent. La prolifération de fausses informations menace gravement la sécurité personnelle et sociale. Afin de résoudre ce problème, les entreprises technologiques ont recherché des solutions, parmi lesquelles la technologie du filigrane est considérée comme l'une des méthodes de prévention efficaces. Cet article se concentrera sur Meta Video Seal, le dernier outil de filigrane vidéo AI lancé par Meta Company, ainsi que sur les caractéristiques techniques et les plans de développement futurs de cet outil.
À mesure que la technologie des deepfakes devient plus populaire, la quantité de faux contenus sur le Web a explosé. Selon la plateforme de vérification d’identité Sumsub, le nombre de deepfakes quadruplera de 2023 à 2024, les deepfakes représentant 7 % de toutes les fraudes en 2024. Il s’agit notamment de l’usurpation d’identité, du piratage de compte et des attaques sophistiquées d’ingénierie sociale.
Pour relever ce défi, Meta a récemment lancé un nouvel outil de filigrane, Meta Video Seal, conçu pour ajouter un filigrane presque imperceptible aux clips vidéo générés par l'IA. L'outil est open source et conçu pour s'intégrer de manière transparente aux logiciels existants. Meta Video Seal rejoint les autres outils de filigrane existants de Meta, tels que Watermark Anything et Audio Seal.
"Nous avons développé Video Seal pour fournir une solution de filigrane vidéo plus efficace, spécifiquement pour détecter les vidéos générées par l'IA et protéger l'originalité", a déclaré Pierre Fernandez, chercheur en IA chez Meta, à TechCrunch.
Bien que Video Seal ne soit pas la première technologie de ce type, DeepMind et Microsoft disposent également d'une technologie de filigrane vidéo similaire, mais Fernandez estime que certaines solutions existantes présentent des lacunes. Il a souligné : « De nombreux outils de tatouage ne sont pas assez robustes en matière de compression vidéo, ne peuvent pas être largement utilisés sur les plateformes sociales et manquent d'ouverture et de reproductibilité. »
En plus des filigranes, Video Seal peut ajouter des informations cachées aux vidéos pour identifier ultérieurement leur source. Meta affirme que l'outil résiste aux opérations d'édition courantes telles que le flou et le recadrage, ainsi qu'aux algorithmes de compression populaires. Cependant, Fernandez reconnaît également que Video Seal présente un compromis entre la perceptibilité du filigrane et sa robustesse contre la manipulation. Une compression excessive et des modifications lourdes peuvent affecter les filigranes et même les rendre irrécupérables.
Bien entendu, le plus grand défi pour Video Seal est que l’adoption par les développeurs et l’industrie peut être faible, en particulier pour les entreprises qui utilisent déjà des solutions propriétaires. Afin de résoudre ce problème, Meta prévoit de lancer une liste de classement publique - Meta Omni Seal Bench, spécifiquement utilisée pour comparer les performances de différentes méthodes de tatouage, et d'organiser un atelier sur le tatouage lors de la conférence ICLR de cette année.
Fernandez espère que de plus en plus de chercheurs et de développeurs en IA intégreront une certaine forme de filigrane dans leur travail, en collaboration avec l'industrie et le monde universitaire pour faire progresser ce domaine.
Le lancement de Meta Video Seal fournit une nouvelle arme contre la contrefaçon profonde, mais son effet final nécessite encore du temps et de la pratique pour être testé. L’open source et la collaboration avec l’industrie seront des facteurs clés pour garantir son efficacité. Ce n'est que grâce aux efforts conjoints de l'ensemble du secteur que nous pourrons relever efficacement les défis posés par la contrefaçon profonde et maintenir la sécurité et l'ordre du cyberespace.