Avec le développement rapide de la technologie de l’IA, l’identification de l’authenticité du contenu généré par l’IA est devenue une question importante. La prolifération de fausses informations constitue une menace sérieuse pour la stabilité sociale et la confiance du public. Afin de relever ce défi et de lutter efficacement contre les fausses informations générées par l'IA, Tencent a lancé un nouvel outil de détection de contenu généré par l'IA, qui vise à utiliser la technologie de l'IA pour identifier le texte et les images générés par l'IA et maintenir la santé et la sécurité des personnes. environnement en ligne.
Avec le développement rapide de la technologie de l’intelligence artificielle, les applications des textes, images et vidéos générés par l’IA dans divers domaines sont devenues de plus en plus matures. Cependant, cela s’accompagne également de l’émergence d’une crise de confiance, et la diffusion de fausses informations constitue une menace potentielle pour la société. Afin de relever ce défi, Tencent a récemment lancé un nouvel outil de détection de contenu généré par l'IA, visant à « lutter contre la contrefaçon d'IA » grâce à la technologie de l'IA.
Cet outil a été développé par le Zhuque Lab de Tencent et est divisé en deux systèmes : la détection de texte générée par l'IA et la détection d'images générées par l'IA. Les responsables de Tencent ont souligné que même si les images générées par l'IA deviennent plus réalistes, elles restent néanmoins reconnaissables dans un certain sens. Grâce à une vérification rapide des images téléchargées en quelques secondes, les utilisateurs peuvent savoir si l'image a été générée par l'IA.
En termes de logique de détection, le système se distingue principalement en capturant les différences subtiles entre les images réelles et les images générées par l'IA. Par exemple, les images générées par l’IA défient parfois la logique du bon sens ou peuvent nécessiter l’ajout d’un filigrane dans certains cas. De plus, les images générées par l’IA peuvent également contenir des fonctionnalités de couche cachées spécifiques. Afin de garantir l'exactitude de la détection, Tencent a utilisé 1,4 million d'échantillons positifs et négatifs dans la formation du modèle, couvrant une variété de scènes telles que les corps humains, les paysages, les personnes, les monuments, etc. Le taux de détection du test final a atteint plus de 95 %, et le système également en optimisation continue.
En termes de détection de texte, le système de détection de Tencent s'appuie également sur un grand nombre d'échantillons positifs et négatifs pour la formation et peut couvrir divers genres tels que les actualités, les documents officiels, les romans et les essais. En comparant le texte détecté avec le contenu de prédiction du grand modèle, le système peut déduire la probabilité de génération d'IA du texte, améliorant ainsi les capacités de détection des données invisibles. À l'avenir, Tencent prévoit également d'étendre le système de détection de texte à d'autres genres, tels que la poésie, afin d'améliorer encore la précision de la reconnaissance.
Grâce à cette démarche innovante, Tencent espère offrir aux utilisateurs un environnement en ligne plus sécurisé et plus fiable, résister efficacement à la propagation de fausses informations et contribuer au développement sain de la société.
L'outil de détection de contenu généré par l'IA de Tencent, avec sa grande précision et ses capacités d'optimisation continue, fournit un moyen efficace de traiter les fausses informations générées par l'IA et contribue à construire un cyberespace plus clair. Il vaut la peine d'attendre avec impatience son développement et ses applications futurs.