다운코드 편집자 보고서: 최근 연구에 따르면 X 플랫폼에서 AI로 생성된 아바타 계정의 놀라운 비밀이 밝혀졌습니다. 독일 연구팀은 거의 1,500만 개의 X 계정을 분석한 결과 아주 적은 수의 계정(0.052%)만이 AI 생성 아바타를 사용한다는 사실을 발견했습니다. 이들 계정은 팔로워 수가 적고 팔로워 수가 적은 등 독특한 특징을 보이며, 대부분 2023년에 생성된 계정이고, 심지어 일괄적으로 생성된 것으로 보아 특정 정보를 유포하기 위한 가짜 계정일 가능성이 높다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
이러한 계정은 분명한 특징을 보여줍니다. 팔로워 수가 적고 팔로우 수가 적으며 2023년에 절반 이상이 생성되었으며 일부 계정은 몇 시간 내에 일괄 생성되기도 했습니다. 연구의 주요 저자인 조나스 리커(Jonas Ricker)는 이는 이러한 계정이 실제 사용자가 아니라는 것을 분명히 보여준다고 지적했습니다. 9개월 간의 관찰 끝에 플랫폼 X는 해당 계정의 절반 이상을 폐쇄했습니다.
연구원들은 AI 아바타를 사용한 1,000개의 계정에 대한 수동 콘텐츠 분석에서 이러한 계정의 콘텐츠 주제가 주로 정치, 특히 트럼프, 코로나19 백신, 우크라이나 전쟁과 관련된 문제에 초점을 맞추고 있음을 발견했습니다. 또한 암호화폐와 같은 복권 및 금융 주제가 자주 등장합니다. 연구원들은 계정이 대량으로 생성되고 동일한 메타데이터를 공유했기 때문에 이러한 계정이 허위 정보와 정치적 선전을 퍼뜨리기 위해 특별히 생성되었을 수 있다고 추측합니다. 이는 해당 계정이 조직화된 네트워크의 일부일 수 있음을 시사합니다.
본 연구에서는 AI 아바타를 활용한 이러한 계정의 확산을 조사하지는 않았지만, 평균 팔로어 수와 계정 수는 영향력이 제한적임을 보여줍니다. 이는 OpenAI의 연구와 일치합니다. 이 연구에서는 AI로 생성된 정치 선전을 퍼뜨리는 소셜 미디어 계정이 거의 반응을 얻지 못하여 이러한 계정의 효율성이 떨어진다는 사실을 발견했습니다. 연구팀은 향후 분석에서 AI 가짜 아바타 인식 자동화를 확대하고 업데이트된 모델을 통합하여 이 기술이 소셜 미디어 플랫폼에 미치는 영향을 더 잘 이해할 계획입니다.
이 연구는 소셜 미디어 플랫폼에서 AI 생성 아바타의 적용에 대한 우리의 이해에 대한 귀중한 통찰력을 제공하며 AI 기술을 사용하여 악의적인 정보를 확산시키는 데 주의해야 함을 상기시켜 줍니다. 앞으로는 보다 효과적인 AI 인식 기술이 네트워크 환경의 보안을 유지하는 중요한 수단이 될 것입니다. 다운코드 편집자는 계속해서 관련 개발에 주의를 기울이고 더 많은 기술 정보를 제공할 것입니다.