Con el rápido desarrollo de la tecnología de falsificación profunda, la seguridad de la red enfrenta desafíos sin precedentes. La proliferación de información falsa amenaza gravemente la seguridad personal y social. Para hacer frente a este problema, las empresas de tecnología han estado buscando soluciones, entre las cuales la tecnología de marcas de agua se considera uno de los métodos de prevención eficaces. Este artículo se centrará en Meta Video Seal, la última herramienta de marca de agua de vídeo con IA lanzada por Meta Company, así como en las características técnicas y los planes de desarrollo futuros de esta herramienta.
A medida que la tecnología deepfake se vuelve más popular, la cantidad de contenido falso en la web se ha disparado. Según la plataforma de verificación de identidad Sumsub, el número de deepfakes se cuadriplicará entre 2023 y 2024, y los deepfakes representarán el 7% de todos los fraudes en 2024. Estos incluyen suplantación de identidad, apropiación de cuentas y sofisticados ataques de ingeniería social.
Para abordar este desafío, Meta lanzó recientemente una nueva herramienta de marca de agua, Meta Video Seal, diseñada para agregar una marca de agua casi imperceptible a los videoclips generados por IA. La herramienta es de código abierto y está diseñada para integrarse perfectamente con el software existente. Meta Video Seal se une a otras herramientas de marca de agua existentes de Meta, como Watermark Anything y Audio Seal.
"Desarrollamos Video Seal para proporcionar una solución de marca de agua de video más efectiva, específicamente para detectar videos generados por IA y proteger la originalidad", dijo a TechCrunch el científico investigador de IA de Meta, Pierre Fernández.
Aunque Video Seal no es la primera tecnología de este tipo, DeepMind y Microsoft también tienen una tecnología de marca de agua de vídeo similar, pero Fernández cree que algunas soluciones existentes tienen deficiencias. Señaló: "Muchas herramientas de marcas de agua no son lo suficientemente sólidas en la compresión de video, no pueden usarse ampliamente en plataformas sociales y carecen de apertura y reproducibilidad".
Además de las marcas de agua, Video Seal puede agregar información oculta a los videos para luego identificar su fuente. Meta afirma que la herramienta es resistente a operaciones de edición comunes como desenfoque y recorte, así como a algoritmos de compresión populares. Sin embargo, Fernández también reconoce que Video Seal tiene un equilibrio entre la perceptibilidad de la marca de agua y su robustez contra la manipulación. La compresión excesiva y la edición intensa pueden afectar las marcas de agua e incluso hacerlas irrecuperables.
Por supuesto, el mayor desafío para Video Seal es que la adopción por parte de los desarrolladores y la industria puede ser baja, especialmente para las empresas que ya utilizan soluciones patentadas. Para resolver este problema, Meta planea lanzar una lista de clasificación pública, Meta Omni Seal Bench, que se utiliza específicamente para comparar el rendimiento de diferentes métodos de marcas de agua, y realizar un taller sobre marcas de agua en la conferencia ICLR de este año.
Fernández espera que cada vez más investigadores y desarrolladores de IA integren alguna forma de marca de agua en su trabajo, trabajando con la industria y el mundo académico para avanzar en este campo.
El lanzamiento de Meta Video Seal proporciona una nueva arma contra la falsificación profunda, pero su efecto final aún necesita tiempo y práctica para probarse. El código abierto y la colaboración de la industria serán factores clave para garantizar su eficacia. Sólo mediante los esfuerzos conjuntos de toda la industria podremos abordar eficazmente los desafíos que plantea la falsificación profunda y mantener la seguridad y el orden del ciberespacio.