Com a crescente popularidade do conteúdo gerado por IA, como identificar eficazmente a sua autenticidade tornou-se uma questão importante. Para resolver este problema, a Tencent lançou uma ferramenta de identificação de imagens gerada por IA em 17 de janeiro de 2025. Esta ferramenta foi desenvolvida pelo Zhuque Lab da equipe de segurança Hunyuan da Tencent. Ela foi projetada para ajudar os usuários a identificar com rapidez e precisão se as imagens são geradas por IA, melhorar a eficiência da identificação de conteúdo e manter a autenticidade e a segurança do ambiente de rede. Esta ferramenta utiliza um modelo avançado de IA para fazer julgamentos analisando múltiplas dimensões, como textura, semântica e recursos invisíveis da imagem, melhorando efetivamente a precisão da detecção.
Em 17 de janeiro de 2025, a Tencent lançou uma ferramenta de identificação de imagens geradas por IA, projetada para ajudar as pessoas a identificar se as imagens foram geradas por IA.
O sistema de detecção de imagem gerado por IA desenvolvido pelo Laboratório Zhuque da equipe de segurança Hunyuan da Tencent pode determinar se a imagem foi gerada por IA em poucos segundos, carregando a imagem e aguardando a verificação. O sistema distingue principalmente capturando as diferenças entre imagens reais e imagens geradas por IA. Por exemplo, as imagens geradas por IA às vezes não estão em conformidade com a lógica do bom senso e haverá conteúdo que não está em conformidade com a realidade, como cachorrinhos voando com eles. asas e gatos segurando charutos, as imagens geradas por IA precisam ter "marca d'água", ou seja, adicionar explícitas. Ou sinais implícitos. Esses sinais podem ser visíveis a olho nu ou podem não ser óbvios e precisam ser lidos com ferramentas de detecção. As imagens geradas por IA também contêm alguns recursos ocultos invisíveis a olho nu. espaço, as imagens geradas por IA aparecerão Destaques com texturas locais densamente distribuídas, etc.
A identificação de imagens geradas pela IA não pode depender apenas de uma única base. O sistema de detecção precisa usar modelos de IA para capturar diferenças em vários recursos, incluindo a textura, a semântica e os recursos invisíveis da imagem. O Laboratório Suzaku usou 1,4 milhão de amostras positivas e negativas para treinamento de modelo, cobrindo uma variedade de cenários de geração de conteúdo. A taxa de detecção de teste final atingiu mais de 95% e ainda está sendo otimizada e aprimorada. O Suzaku Lab também desenvolveu um sistema de detecção de texto, que implementa a detecção de texto aprendendo a partir de dados massivos. Ele também coleta um grande número de amostras positivas e negativas para treinamento e usa métodos comparativos para inferir a probabilidade de geração de artigos por IA para melhorar. a detecção de dados invisíveis. Actualmente, o sistema abrange diversos géneros literários, tais como boletins informativos, documentos oficiais, romances e ensaios, e será melhorado para poesia e outros géneros no futuro.
A intenção original do Laboratório Suzaku ao desenvolver ferramentas de detecção de IA era otimizar o corpus de treinamento de grandes modelos Hunyuan. No entanto, com o crescimento explosivo da IA, a demanda por "usar IA para detectar geração de IA" aumentou na academia e na indústria. o laboratório desenvolveu geração de IA Existem duas ferramentas para detecção de imagem e detecção de texto gerado por IA, e são fornecidos serviços de experiência.
No futuro, também serão lançadas ferramentas de detecção para vídeos gerados por IA para melhorar ainda mais as capacidades de detecção.
Endereço da experiência:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
O lançamento da ferramenta de identificação de imagens geradas por IA da Tencent marca um progresso importante no combate a informações falsas em conteúdo gerado por IA. No futuro, à medida que a tecnologia continua a melhorar, acredito que tais ferramentas servirão melhor a sociedade e manterão o desenvolvimento saudável do ecossistema de rede.