Con la creciente popularidad del contenido generado por IA, cómo identificar eficazmente su autenticidad se ha convertido en una cuestión importante. Para resolver este problema, Tencent lanzó una herramienta de identificación de imágenes generada por IA el 17 de enero de 2025. Esta herramienta fue desarrollada por el equipo de seguridad Hunyuan del Laboratorio Zhuque de Tencent y está diseñada para ayudar a los usuarios a identificar de forma rápida y precisa si las imágenes son generadas por IA, mejorar la eficiencia de la identificación de contenido y mantener la autenticidad y seguridad del entorno de red. Esta herramienta utiliza un modelo de IA avanzado para emitir juicios analizando múltiples dimensiones como la textura, la semántica y las características invisibles de la imagen, mejorando efectivamente la precisión de la detección.
El 17 de enero de 2025, Tencent lanzó una herramienta de identificación de imágenes generada por IA diseñada para ayudar a las personas a identificar si las imágenes fueron generadas por IA.
El sistema de detección de imágenes generadas por IA desarrollado por el equipo de seguridad Hunyuan del Laboratorio Zhuque del Tencent puede determinar si la imagen fue generada por IA en unos segundos cargándola y esperando la verificación. El sistema distingue principalmente capturando las diferencias entre imágenes reales e imágenes generadas por IA. Por ejemplo, las imágenes generadas por IA a veces no se ajustan a la lógica del sentido común y habrá contenido que no se ajusta a la realidad, como cachorros volando. Las imágenes generadas por IA con alas y gatos sosteniendo cigarros deben tener una "marca de agua", es decir, agregarse explícito. O signos implícitos: estos signos pueden ser visibles a simple vista o pueden no ser obvios y deben leerse con herramientas de detección; las imágenes generadas por IA también contienen algunas características ocultas invisibles a simple vista, por ejemplo, después de ajustar el color del HSV. espacio, aparecerán las imágenes generadas por IA. Destacados con texturas locales densamente distribuidas, etc.
La identificación de imágenes generadas por IA no puede basarse únicamente en una base única. El sistema de detección necesita utilizar modelos de IA para capturar diferencias en varias características, incluida la textura, la semántica y las características invisibles de la imagen. Suzaku Lab utilizó 1,4 millones de muestras positivas y negativas para el entrenamiento del modelo, cubriendo una variedad de escenarios de generación de contenido. La tasa de detección de la prueba final alcanzó más del 95% y aún se está optimizando y mejorando. Suzaku Lab también ha desarrollado un sistema de detección de texto, que implementa la detección de texto aprendiendo de datos masivos. También recopila una gran cantidad de muestras positivas y negativas para el entrenamiento y utiliza métodos comparativos para inferir la probabilidad de generación de artículos por IA para mejorar. la capacidad de detección de datos invisibles. Actualmente, el sistema cubre diversos géneros literarios, como boletines, documentos oficiales, novelas y ensayos, y en el futuro se ampliará para poesía y otros géneros.
La intención original del Laboratorio Suzaku al desarrollar herramientas de detección de IA era optimizar el corpus de entrenamiento de los grandes modelos de Hunyuan. Sin embargo, con el crecimiento explosivo de la IA, la demanda de "utilizar la IA para detectar la generación de IA" aumentó en el mundo académico y la industria. el laboratorio desarrolló la generación de IA. Hay dos herramientas para la detección de imágenes y la detección de texto generado por IA, y se proporcionan servicios de experiencia.
En el futuro, también se lanzarán herramientas de detección de vídeos generados por IA para mejorar aún más las capacidades de detección.
Dirección de la experiencia:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
El lanzamiento de la herramienta de identificación de imágenes generadas por IA de Tencent marca un progreso importante en la lucha contra la información falsa en el contenido generado por IA. En el futuro, a medida que la tecnología siga mejorando, creo que dichas herramientas servirán mejor a la sociedad y mantendrán el desarrollo saludable del ecosistema de red.