위챗 코랄 시큐리티(WeChat Coral Security)는 AI 기술을 이용해 연예인을 모방해 마케팅하는 불법 활동을 엄중 단속하겠다고 발표했다. 최근에는 연예인 이미지를 위조해 마케팅을 하기 위해 인공지능(AI) 기술을 활용하는 사례가 늘어나고 있어 온라인 환경 질서를 심각하게 어지럽히고 공익을 훼손하고 있다. 플랫폼의 보안과 사용자의 권익을 보호하기 위해 WeChat 팀은 신속한 조치를 취하고 특별 거버넌스를 실시했습니다.
WeChat Coral Security는 최근 발표를 통해 부적절한 마케팅을 위해 유명 인사를 위조하는 AI 기술을 단속하겠다는 플랫폼의 결의를 강조했습니다. 발표문에는 WeChat이 안전하고 건강하며 친환경적인 온라인 환경을 만들기 위해 최선을 다하고 있다고 언급되어 있습니다. 최근 AI 기술을 사용하여 유명 인사를 사칭하여 마케팅을 하는 현상에 대해 WeChat은 신속한 조치를 취하고 다수의 위반 사항을 심각하게 처리했습니다.
발표에 따르면 위챗은 일일 점검에서 발견한 단서와 사용자 신고를 종합해 부적절한 마케팅을 위해 유명인을 사칭하고 악의적으로 트래픽을 얻는 AI를 활용하는 행위에 대한 특별 관리를 실시했다. 위챗은 지금까지 총 532건의 불법 콘텐츠를 처리했고, 관련 계정 209개를 폐쇄했다.
위챗은 앞으로도 “AI를 활용해 마케팅과 홍보를 위해 연예인을 모방하는 등 불법 행위에 대한 단속을 계속 강화하고, 플랫폼의 좋은 생태계를 유지하기 위해 기술적 거버넌스 역량을 향상시킬 것”이라고 밝혔다. 동시에 WeChat은 사용자에게 법률, 규정 및 플랫폼 규칙을 의식적으로 준수하고 명확하고 질서 있는 온라인 환경을 공동으로 유지할 것을 촉구합니다. AI 합성 기술을 사용하여 불법 콘텐츠를 생성하는 것과 관련하여 WeChat은 플랫폼이 이러한 행위에 보다 효과적으로 대처할 수 있도록 사용자에게 단서를 제공하도록 권장합니다.
이러한 조치를 통해 WeChat은 더 건강하고 질서 있는 온라인 공간을 구축하고자 합니다.
WeChat의 이러한 조치는 온라인 환경의 보안을 유지하려는 WeChat의 결의를 보여주며 다른 플랫폼에 대한 효과적인 참조를 제공합니다. WeChat은 기술적 수단과 사용자 신고를 결합하여 AI 위조 마케팅 행위를 효과적으로 단속하고 명확한 사이버 공간을 만드는 데 긍정적인 기여를 했습니다. 앞으로는 더 많은 플랫폼이 적극적으로 참여하여 보다 안전하고 건강한 네트워크 환경을 공동으로 구축해 나가기를 기대합니다.