Con el auge de la IA generativa, la proliferación de información falsa se ha convertido en un problema grave. El rápido desarrollo de la tecnología de falsificación profunda ha provocado que la seguridad de la red enfrente enormes desafíos. Para combatir esta amenaza, Meta ha lanzado una nueva herramienta llamada Meta Video Seal, cuyo objetivo es combatir los vídeos deepfake y proteger la originalidad del contenido mediante tecnología de marcas de agua imperceptibles. Esta herramienta se lanzó como código abierto y se combinó con la herramienta de marca de agua lanzada anteriormente por Meta para formar una solución anti-deepfake más completa.
A medida que la inteligencia artificial generativa se comercializa, la cantidad de contenido falso en línea ha aumentado dramáticamente. Según datos de la plataforma de verificación de identidad Sumsub, el número de deepfakes globales se cuadruplicará de 2023 a 2024. Los deepfakes representarán el 7% de todo el fraude en 2024, e involucrarán desde suplantación de identidad y apropiación de cuentas hasta sofisticadas campañas de ingeniería social.
Para combatir este problema, Meta ha lanzado una nueva herramienta, Meta Video Seal, diseñada para combatir los deepfakes añadiendo marcas de agua imperceptibles a los vídeos generados por IA. La herramienta, lanzada como código abierto el jueves, está diseñada para integrarse fácilmente en el software existente y complementar otras herramientas de marca de agua lanzadas anteriormente por Meta, Watermark Anything y Audio Seal.
"Desarrollamos Video Seal para proporcionar una solución de marca de agua de video más efectiva, específicamente para detectar videos generados por IA y proteger la originalidad", dijo en una entrevista el científico investigador de inteligencia artificial de Meta, Pierre Fernández.
Aunque Video Seal no es la primera tecnología de marca de agua de video propuesta, SynthID de DeepMind y los métodos de marca de agua de Microsoft también se han utilizado en el mercado, pero Fernández señaló que las herramientas de marca de agua existentes generalmente tienen algunas deficiencias. Dijo: "Aunque existen otras herramientas de marcas de agua, no funcionan bien después de la compresión de video, lo cual es muy común cuando se distribuye contenido en plataformas sociales; algunos métodos también funcionan de manera menos eficiente y no se pueden abrir ni replicar; además, muchos métodos son "Se deriva de la marca de agua de imagen, pero la marca de agua de imagen no es adecuada para vídeo".
Además de la función de marca de agua, Video Seal también puede incrustar información oculta en videos, que luego puede revelarse para rastrear la fuente del video. Meta afirma que Video Seal puede resistir eficazmente los métodos de edición comunes, como el desenfoque y el recorte, así como los algoritmos de compresión de uso común.
Sin embargo, Fernández también reconoció que Video Seal tiene ciertas limitaciones, especialmente el equilibrio entre la perceptibilidad de la marca de agua y su resistencia a la manipulación. Señala que una compresión excesiva y una edición intensa pueden destruir las marcas de agua o hacerlas irrecuperables.
Un desafío mayor para Meta es la falta de incentivos para que los desarrolladores y actores de la industria utilicen Video Seal, especialmente aquellos que ya utilizan otras soluciones patentadas. Con este fin, Meta ha lanzado una clasificación pública llamada Meta Omni Seal Bench para comparar el rendimiento de diferentes tecnologías de marcas de agua, y llevará a cabo un seminario sobre tecnología de marcas de agua en la importante conferencia de IA ICLR de este año.
"Esperamos que cada vez más investigadores y desarrolladores de IA puedan incorporar algún tipo de tecnología de marca de agua en su trabajo, y esperamos trabajar con la industria y el mundo académico para avanzar en este campo más rápidamente", dijo Fernández.
La versión de código abierto de Meta Video Seal proporciona una nueva arma para luchar contra la falsificación profunda, pero si puede frenar eficazmente la difusión de información falsa aún requiere la prueba del tiempo y los esfuerzos conjuntos de la industria. El avance continuo y la aplicación generalizada de la tecnología serán la clave para resolver este problema.