AI 기술의 급속한 발전으로 인해 AI가 생성한 콘텐츠의 진위 여부 식별이 중요한 문제로 대두되고 있습니다. 허위정보의 확산은 사회안정과 국민신뢰에 심각한 위협이 됩니다. 이러한 문제에 대응하고 AI가 생성한 허위 정보를 효과적으로 퇴치하기 위해 Tencent는 AI 기술을 사용하여 AI가 생성한 텍스트와 이미지를 식별하고 사용자의 건강과 안전을 유지하는 것을 목표로 하는 새로운 AI 생성 콘텐츠 감지 도구를 출시했습니다. 온라인 환경.
인공지능 기술의 급속한 발전에 따라 AI가 생성한 텍스트, 이미지, 동영상을 다양한 분야에 활용하는 기술이 점점 성숙해지고 있습니다. 그러나 이는 신뢰의 위기를 동반하기도 하며, 허위정보의 확산은 사회에 잠재적인 위협이 됩니다. 이러한 문제에 대처하기 위해 Tencent는 최근 AI 기술을 통해 '위조 AI 퇴치'를 목표로 하는 새로운 AI 생성 콘텐츠 탐지 도구를 출시했습니다.
이 도구는 Tencent의 Zhuque Lab에서 개발했으며 AI 생성 텍스트 감지와 AI 생성 이미지 감지의 두 가지 시스템으로 나뉩니다. 텐센트 관계자는 AI가 생성한 이미지가 외양적으로는 더욱 사실적으로 변하고 있지만 여전히 어느 정도 인지도가 있다고 지적했다. 사용자는 업로드된 이미지를 몇 초 만에 빠르게 확인함으로써 이미지가 AI에 의해 생성되었는지 여부를 알 수 있습니다.
감지 로직 측면에서 시스템은 주로 실제 이미지와 AI 생성 이미지 간의 미묘한 차이를 포착하여 구별합니다. 예를 들어, AI가 생성한 이미지는 때때로 상식적인 논리를 무시하거나 경우에 따라 워터마크를 추가해야 할 수도 있습니다. 또한 AI가 생성한 이미지에는 특정 숨겨진 레이어 기능이 포함될 수도 있습니다. 탐지의 정확성을 보장하기 위해 Tencent는 모델 훈련에서 인체, 풍경, 사람, 랜드마크 등 다양한 장면을 포괄하는 140만 개의 긍정 및 부정 샘플을 사용했습니다. 최종 테스트 탐지율은 95% 이상에 도달했습니다. 시스템도 지속적으로 최적화됩니다.
텍스트 감지 측면에서 Tencent의 감지 시스템은 훈련을 위해 다수의 긍정 및 부정 샘플에 의존하며 뉴스, 공식 문서, 소설, 에세이 등 다양한 문학 스타일을 포괄할 수 있습니다. 감지된 텍스트와 대형 모델의 예측 내용을 비교함으로써 시스템은 텍스트의 AI 생성 확률을 추론할 수 있어 보이지 않는 데이터의 감지 능력을 향상시킬 수 있다. 앞으로 텐센트는 텍스트 감지 시스템을 시 등 다른 장르로도 확장해 인식 정확도를 더욱 높일 계획이다.
Tencent는 이러한 혁신적인 움직임을 통해 사용자에게 더욱 안전하고 신뢰할 수 있는 온라인 환경을 제공하고, 허위 정보의 확산을 효과적으로 방지하며, 사회의 건전한 발전에 기여하기를 희망합니다.
높은 정확성과 지속적인 최적화 기능을 갖춘 Tencent의 AI 생성 콘텐츠 탐지 도구는 AI로 생성된 허위 정보를 처리하는 효과적인 수단을 제공하고 보다 명확한 사이버 공간을 구축하는 데 기여합니다. 향후 개발 및 적용을 기대할 가치가 있습니다.