Avec la popularité croissante du contenu généré par l’IA, la manière d’identifier efficacement son authenticité est devenue une question importante. Afin de résoudre ce problème, Tencent a lancé le 17 janvier 2025 un outil d'identification d'images généré par l'IA. Cet outil a été développé par l'équipe de sécurité Hunyuan du Zhuque Lab de Tencent. Il est conçu pour aider les utilisateurs à identifier rapidement et avec précision si les images sont générées par l'IA, à améliorer l'efficacité de l'identification du contenu et à maintenir l'authenticité et la sécurité de l'environnement réseau. Cet outil utilise un modèle d'IA avancé pour émettre des jugements en analysant plusieurs dimensions telles que la texture, la sémantique et les caractéristiques invisibles de l'image, améliorant ainsi efficacement la précision de la détection.
Le 17 janvier 2025, Tencent a lancé un outil d'identification d'images générées par l'IA, conçu pour aider les gens à identifier si les images ont été générées par l'IA.
Le système de détection d'images générées par l'IA développé par l'équipe de sécurité Hunyuan du Zhuque Lab de Tencent peut déterminer si l'image a été générée par l'IA en quelques secondes en téléchargeant l'image et en attendant la vérification. Le système fait principalement la distinction en capturant les différences entre les images réelles et les images générées par l'IA. Par exemple, les images générées par l'IA ne sont parfois pas conformes à la logique du bon sens, et il y aura du contenu qui n'est pas conforme à la réalité, comme des chiots volant avec. les ailes et les chats tenant des cigares. Les images générées par l'IA doivent être "filigranées", c'est-à-dire explicites. Ou des signes implicites. Ces signes peuvent être visibles à l'œil nu ou ne pas être évidents et doivent être lus avec des outils de détection ; les images générées par l'IA contiennent également certaines caractéristiques cachées invisibles à l'œil nu, par exemple après avoir ajusté la couleur HSV. l'espace, les images générées par l'IA apparaîtront des reflets avec des textures locales densément distribuées, etc.
L’identification des images générées par l’IA ne peut pas reposer uniquement sur une seule base. Le système de détection doit utiliser des modèles d’IA pour capturer les différences dans diverses caractéristiques, notamment la texture, la sémantique et les caractéristiques invisibles de l’image. Suzaku Lab a utilisé 1,4 million d'échantillons positifs et négatifs pour la formation de modèles, couvrant une variété de scénarios de génération de contenu. Le taux de détection des tests finaux a atteint plus de 95 %, et il est toujours en cours d'optimisation et d'amélioration. Suzaku Lab a également développé un système de détection de texte, qui implémente la détection de texte en apprenant à partir de données massives. Il collecte également un grand nombre d'échantillons positifs et négatifs pour la formation et utilise des méthodes comparatives pour déduire la probabilité de génération d'IA des articles à améliorer. la capacité de détection de données invisibles. À l'heure actuelle, le système couvre divers genres littéraires tels que les bulletins d'information, les documents officiels, les romans et les essais, et sera amélioré à l'avenir pour la poésie et d'autres genres.
L'intention initiale du laboratoire Suzaku en développant des outils de détection d'IA était d'optimiser le corpus de formation des grands modèles Hunyuan. Cependant, avec la croissance explosive de l'IA, la demande « d'utiliser l'IA pour détecter la génération d'IA » a augmenté dans le monde universitaire et l'industrie. le laboratoire a développé la génération d'IA. Il existe deux outils pour la détection d'images et la détection de texte généré par l'IA, et des services d'expérience sont fournis.
À l’avenir, des outils de détection des vidéos générées par l’IA seront également lancés pour améliorer encore les capacités de détection.
Adresse de l'expérience :
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
Le lancement de l'outil d'identification d'images générées par l'IA de Tencent marque un progrès important dans la lutte contre les fausses informations contenues dans le contenu généré par l'IA. À l'avenir, à mesure que la technologie continuera de s'améliorer, je pense que de tels outils serviront mieux la société et maintiendront le développement sain de l'écosystème des réseaux.