Meta Company는 최근 Facebook 플랫폼에 인공 지능으로 생성된 수많은 가상 캐릭터를 도입할 것이라고 발표했습니다. 이러한 캐릭터에는 프로필, 아바타, 실제 사용자와 마찬가지로 콘텐츠를 생성하고 공유할 수 있는 기능이 포함됩니다. 이러한 움직임은 사용자 상호 작용과 플랫폼 활동을 늘리기 위한 것이지만 보안 및 콘텐츠 규제에 대한 우려도 제기합니다. Meta AI 스튜디오는 가상 캐릭터 생성 기능을 출시하여 많은 사용자 참여를 유도했으며 향후 2년 내에 더 많은 국가로 확장할 예정입니다. 인터넷 연예인들도 자신만의 AI 버전을 만들어 팬들과 소통할 수 있지만, 이로 인해 허위사실 유포, 미성년자 보호 등의 문제가 발생할 수도 있다.
Meta의 AI 스튜디오는 이러한 가상 캐릭터 생성 기능을 출시했습니다. 사용자는 플랫폼을 통해 자신만의 AI 캐릭터를 만들고 상호 작용할 수 있습니다. 이 기능에는 수만 명의 사용자가 참여했으며 현재 수십만 명의 AI 캐릭터가 있습니다. 메타는 앞으로 2년 동안 더 많은 국가의 사용자들이 이 기능을 경험할 수 있도록 AI 스튜디오의 사용 범위를 지속적으로 확장할 것이라고 밝혔습니다.
가상의 인물 외에도 인플루언서(인터넷 유명인)도 자신만의 AI 버전을 만들어 팬들과 소통할 수 있다는 점은 주목할 만하다. 이 혁신적인 인터랙티브 방식은 많은 주목을 받았으며 많은 소셜 플랫폼이 콘텐츠 제작자의 요구를 충족하기 위해 유사한 기능을 출시했습니다.
그러나 이러한 AI 캐릭터를 출시하는 데에는 엄청난 보안 위험이 따릅니다. 최근 몇 년 동안 유사한 챗봇이 소셜 플랫폼의 콘텐츠 감독을 반복적으로 위반하여 미성년자 사용자가 부적절한 콘텐츠에 노출되는 사건이 자주 발생했습니다. 또한, 허위사실 유포도 심각한 문제이다. Meta의 AI 역할을 효과적으로 감독하지 않으면 소문과 잘못된 정보가 더욱 증폭되어 플랫폼에 헤아릴 수 없는 위험을 초래할 수 있습니다.
Meta의 전 크리에이터 혁신 팀장이자 현재 Billion Dollar Boy의 최고 마케팅 책임자인 Becky Owen은 우려를 표명했습니다. 그녀는 실제 창작자와는 달리 AI 캐릭터에는 삶의 경험, 감정, 상대성이 부족하여 사용자와의 실제 상호 작용 및 창작자의 작업에 영향을 미칠 수 있다고 지적했습니다.
Facebook에서 AI 캐릭터를 홍보하려는 Meta의 계획은 사용자 상호 작용과 플랫폼 활동을 향상시킬 수 있지만 콘텐츠 제작자에 대한 숨겨진 보안 위험과 잠재적인 위협 또한 모두의 관심을 끌만합니다.
하이라이트:
메타는 사용자 상호작용을 개선하기 위해 페이스북에 AI 가상 캐릭터를 도입할 계획이다.
사용자는 AI 스튜디오를 통해 자신만의 가상 캐릭터를 만들고 상호작용할 수 있다.
AI 캐릭터의 등장은 보안상의 위험과 허위정보 확산 등의 문제를 가져올 수 있다.
Facebook에 AI 가상 캐릭터를 도입하려는 Meta의 계획은 사용자 상호 작용을 향상시킬 수 있는 잠재력이 있지만 콘텐츠 감독 및 보안 위험 측면에서 심각한 문제에 직면해 있습니다. 기술 발전과 사회적 책임의 균형을 어떻게 맞추느냐는 앞으로 메타가 집중해야 할 문제가 될 것이다. 이러한 움직임이 전체 소셜 미디어 산업에 미치는 영향은 계속해서 관찰하고 논의할 가치가 있습니다.