El rápido desarrollo de la tecnología Deepfake ha traído graves amenazas a la seguridad de la red y la información falsa está muy extendida. Según las estadísticas, el fraude relacionado con Deepfake ha crecido rápidamente y se ha convertido en un problema que no se puede ignorar. Para afrontar este desafío, las empresas de tecnología han buscado soluciones una tras otra. Entre ellas, la herramienta Video Seal lanzada por Meta Company ha llamado mucho la atención. La herramienta tiene como objetivo combatir los deepfakes agregando marcas de agua imperceptibles a los videos generados por IA, y está abriendo su tecnología para promover una colaboración y un desarrollo más amplios.
Hoy en día, los deepfakes son omnipresentes. A medida que la IA generativa gana popularidad, el contenido falso en la web se ha disparado. Según las estadísticas de la plataforma de verificación de identidad Sumsub, el número de Deepfakes globales se cuadriplicará de 2023 a 2024. En 2024, Deepfake representará el 7% de todos los fraudes, desde suplantación de identidad y robo de cuentas hasta complejos ataques de ingeniería social, todos ellos relacionados con Deepfake.
Para combatir eficazmente los Deepfakes, Meta lanzó recientemente una herramienta que puede agregar marcas de agua imperceptibles a los videoclips generados por IA. La herramienta, llamada Meta Video Seal, fue anunciada como de código abierto el jueves y está diseñada para integrarse en el software existente. Esta herramienta se une a otras herramientas de marca de agua de Meta, Watermark Anything (lanzada nuevamente hoy bajo una licencia permisiva) y Audio Seal para formar una solución completa de marca de agua.
"Desarrollamos Video Seal para proporcionar una solución de marca de agua de video más efectiva, particularmente en la detección de videos generados por IA y la protección de la originalidad", dijo a TechCrunch el científico investigador de Meta AI, Pierre Fernández.
Video Seal no es la primera tecnología de este tipo. SynthID de DeepMind puede agregar marcas de agua a videos, y Microsoft también tiene su propio método de marcas de agua de video.
Pero Fernández cree que muchos de los métodos existentes no son suficientes.
"Si bien existen otras herramientas de marcas de agua, no son lo suficientemente robustas para la compresión de video (que es muy común cuando el contenido se comparte a través de plataformas sociales); no se ejecutan de manera suficientemente eficiente para aplicaciones a gran escala; no son lo suficientemente abiertas o repetibles; o se derivan de marcas de agua de imagen, y las marcas de agua de imagen no son la mejor opción para videos”, dijo Fernández.
Además de las marcas de agua, Video Seal puede agregar mensajes ocultos a los videos para luego revelar la fuente del video. Meta afirma que Video Seal puede resistir operaciones de edición comunes como desenfoque y recorte, así como algoritmos de compresión comunes.
Fernández reconoce que Video Seal tiene ciertas limitaciones, principalmente una compensación entre cuán perceptible es la marca de agua y su resistencia general a la manipulación. Añadió que una compresión y una edición intensas podrían alterar la marca de agua o hacerla irrecuperable.
Por supuesto, el mayor problema para Video Seal es que no hay muchas razones para que los desarrolladores y la industria lo adopten, especialmente aquellos que ya utilizan soluciones patentadas. Para resolver este problema, Meta está lanzando una lista de clasificación pública, Meta Omni Seal Bench, diseñada específicamente para comparar el rendimiento de varios métodos de marca de agua. Además, Meta organizará un taller sobre marcas de agua en la ICLR (Conferencia Internacional sobre Representaciones del Aprendizaje) de este año. ICLR es una importante conferencia sobre IA.
"Esperamos que cada vez más investigadores y desarrolladores de IA integren alguna forma de marca de agua en su trabajo", dijo Fernández. "Esperamos trabajar con la industria y el mundo académico para avanzar más rápidamente en el progreso en este campo".
Sin duda, este movimiento de Meta aporta nuevas ideas para combatir la proliferación de Deepfake. El código abierto y la colaboración abierta pueden ser una forma eficaz de resolver este espinoso problema. Sin embargo, el futuro de Video Seal aún depende de si puede ser ampliamente aceptado y aplicado por la industria, y de su capacidad para luchar contra los Deepfakes.
Con todo, la herramienta Video Seal de Meta proporciona un nuevo intento de combatir Deepfake, pero su éxito aún está por verse. En el futuro, se necesitará más innovación tecnológica y cooperación de la industria para resolver eficazmente el problema de Deepfake. El código abierto y el espíritu colaborativo son claves, pero requieren tiempo y esfuerzo sostenido.