AI 기반 콘텐츠의 인기가 높아짐에 따라 그 진위 여부를 효과적으로 식별하는 방법이 중요한 문제가 되었습니다. 이 문제를 해결하기 위해 Tencent는 2025년 1월 17일 AI 생성 이미지 식별 도구를 출시했습니다. 이 도구는 Tencent Hunyuan 보안팀의 Zhuque Lab에서 개발되었으며, 사용자가 이미지가 AI에 의해 생성되었는지 여부를 빠르고 정확하게 식별하고, 콘텐츠 식별 효율성을 향상시키며, 네트워크 환경의 신뢰성과 보안을 유지할 수 있도록 설계되었습니다. 이 도구는 고급 AI 모델을 사용하여 이미지의 질감, 의미 및 보이지 않는 특징과 같은 여러 차원을 분석하여 판단하고 감지 정확도를 효과적으로 향상시킵니다.
2025년 1월 17일, Tencent는 이미지가 AI에 의해 생성되었는지 여부를 사람들이 식별할 수 있도록 설계된 AI 생성 이미지 식별 도구를 출시했습니다.
Tencent Hunyuan 보안 팀의 Zhuque 연구소에서 개발한 AI 생성 이미지 감지 시스템은 이미지를 업로드하고 검증을 기다리면 몇 초 안에 이미지가 AI에 의해 생성되었는지 여부를 확인할 수 있습니다. 시스템은 주로 실제 사진과 AI가 생성한 사진의 차이를 포착하여 구별합니다. 예를 들어 AI가 생성한 사진은 상식 논리에 맞지 않는 경우도 있고, 함께 날아다니는 강아지와 같이 현실에 맞지 않는 콘텐츠도 있을 수 있습니다. 시가를 들고 있는 날개와 고양이. AI가 생성한 사진에는 "워터마크"를 추가해야 합니다. 또는 암시적 기호. 이러한 기호는 육안으로 볼 수 있거나 명확하지 않을 수 있으며 AI 생성 이미지에는 육안으로 보이지 않는 일부 숨겨진 기능이 포함되어 있습니다. HSV 색상 공간, AI 생성 이미지가 조밀하게 분포된 로컬 텍스처 등으로 나타납니다.
AI가 생성한 이미지를 식별하는 것은 단일 기준에만 의존할 수 없습니다. 감지 시스템은 AI 모델을 사용하여 이미지의 질감, 의미, 보이지 않는 특징을 포함한 다양한 특징의 차이를 포착해야 합니다. Suzaku Lab은 다양한 콘텐츠 생성 시나리오를 다루는 모델 훈련을 위해 140만 개의 긍정 및 부정 샘플을 사용했으며 최종 테스트 탐지율은 95% 이상에 도달했으며 여전히 최적화 및 개선되고 있습니다. Suzaku Lab은 또한 대규모 데이터로부터 학습하여 텍스트 감지를 구현하는 텍스트 감지 시스템을 개발했습니다. 또한 훈련을 위해 다수의 긍정 및 부정 샘플을 수집하고 비교 방법을 사용하여 기사의 AI 생성 확률을 추론합니다. 보이지 않는 데이터의 감지. 현재는 뉴스레터, 공문서, 소설, 수필 등 다양한 문학 장르를 포괄하고 있으며, 앞으로는 시와 기타 장르에 대해서도 시스템을 강화할 예정입니다.
AI 감지 도구를 개발하는 Suzaku 연구소의 원래 의도는 Hunyuan 대형 모델의 훈련 코퍼스를 최적화하는 것이었지만 AI의 폭발적인 성장과 함께 학계와 산업계에서 "AI를 사용하여 AI 세대를 감지"하려는 요구가 높아졌습니다. 연구소에서 개발한 AI 생성 이미지 감지 툴과 AI 생성 텍스트 감지 툴 2가지가 있으며, 체험 서비스를 제공합니다.
앞으로는 AI가 생성한 영상을 위한 탐지 도구도 출시돼 탐지 능력을 더욱 향상시킬 예정이다.
체험 주소:
https://matrix.tencent.com/ai-Detect/ai_gen
https://matrix.tencent.com/ai-Detect
Tencent의 AI 생성 이미지 식별 도구 출시는 AI 생성 콘텐츠의 허위 정보를 퇴치하는 데 있어 중요한 진전을 의미합니다. 미래에는 기술이 계속 발전함에 따라 이러한 도구가 사회에 더 나은 서비스를 제공하고 네트워크 생태계의 건전한 발전을 유지할 것이라고 믿습니다.