Con el rápido desarrollo de la tecnología de IA, la identificación de la autenticidad del contenido generado por IA se ha convertido en una cuestión importante. La proliferación de información falsa plantea una grave amenaza a la estabilidad social y la confianza pública. Para responder a este desafío y combatir eficazmente la información falsa generada por IA, Tencent ha lanzado una nueva herramienta de detección de contenido generada por IA, cuyo objetivo es utilizar la tecnología de IA para identificar textos e imágenes generados por IA y mantener la salud y seguridad de los usuarios. entorno en línea.
Con el rápido desarrollo de la tecnología de inteligencia artificial, las aplicaciones de texto, imágenes y videos generados por IA en diversos campos se han vuelto cada vez más maduras. Sin embargo, esto también va acompañado de la aparición de una crisis de confianza y la difusión de información falsa supone una amenaza potencial para la sociedad. Para hacer frente a este desafío, Tencent lanzó recientemente una nueva herramienta de detección de contenido generada por IA, con el objetivo de "luchar contra la IA falsificada" a través de la tecnología de IA.
Esta herramienta fue desarrollada por Zhuque Lab de Tencent y se divide en dos sistemas: detección de texto generada por IA y detección de imágenes generada por IA. Los funcionarios de Tencent señalaron que, aunque las imágenes generadas por la IA son cada vez más realistas en apariencia, todavía existe un cierto grado de reconocibilidad. A través de una verificación rápida de las imágenes cargadas en unos segundos, los usuarios pueden saber si la imagen fue generada por IA.
En términos de lógica de detección, el sistema distingue principalmente capturando las sutiles diferencias entre imágenes reales e imágenes generadas por IA. Por ejemplo, las imágenes generadas por IA a veces desafían la lógica del sentido común o pueden requerir la adición de una marca de agua en algunos casos. Además, las imágenes generadas por IA también pueden contener características específicas de capas ocultas. Para garantizar la precisión de la detección, Tencent utilizó 1,4 millones de muestras positivas y negativas en el entrenamiento del modelo, cubriendo una variedad de escenas como cuerpos humanos, paisajes, personas, puntos de referencia, etc. La tasa de detección de la prueba final alcanzó más del 95%. y el sistema también en continua optimización.
En términos de detección de texto, el sistema de detección de Tencent también se basa en una gran cantidad de muestras positivas y negativas para la capacitación y puede cubrir diversos géneros como noticias, documentos oficiales, novelas y ensayos. Al comparar el texto detectado con el contenido de predicción del modelo grande, el sistema puede inferir la probabilidad de generación de IA del texto, mejorando así las capacidades de detección de datos invisibles. En el futuro, Tencent también planea expandir el sistema de detección de texto a otros géneros como la poesía para mejorar aún más la precisión del reconocimiento.
A través de esta medida innovadora, Tencent espera brindar a los usuarios un entorno en línea más seguro y confiable, resistir eficazmente la difusión de información falsa y contribuir al desarrollo saludable de la sociedad.
La herramienta de detección de contenido generada por IA de Tencent, con su alta precisión y capacidades de optimización continua, proporciona un medio eficaz para lidiar con la información falsa generada por la IA y contribuye a construir un ciberespacio más claro. Vale la pena esperar su desarrollo y aplicación futuros.