인공지능 기술의 급속한 발전으로 인해 인공지능이 제작한 콘텐츠가 인터넷에 넘쳐나고 있으며, 그 진위 여부를 어떻게 식별하는가가 중요한 이슈가 되었습니다. Instagram의 대표인 Adam Mosseri는 최근 이에 대한 성명을 발표하여 사용자들에게 경계심을 갖고 온라인 이미지, 특히 현실적인 인공 지능으로 생성된 콘텐츠를 조심스럽게 다룰 것을 상기시켰습니다. 그는 플랫폼이 사용자가 그러한 콘텐츠를 식별하도록 도울 책임이 있음을 강조하고 사용자에게 정보의 출처에 주의를 기울이고 오해를 피하는 능력을 향상시킬 것을 촉구했습니다.
인스타그램의 아담 모세리(Adam Mosseri) 대표는 소셜미디어를 통해 사용자들이 온라인에서 보는 이미지, 특히 현실로 쉽게 착각할 수 있는 인공지능 생성 콘텐츠에 주의해야 한다고 말했다. Mosseri는 인공지능 기술이 사실적인 콘텐츠를 제작하는 능력을 크게 향상시켰기 때문에 사용자는 주의를 기울이고 정보의 출처를 고려해야 하며 소셜 플랫폼은 이와 관련하여 도움을 줄 책임이 있다고 강조했습니다.
그는 "인터넷 플랫폼으로서 AI로 생성된 콘텐츠에 최대한 많은 라벨을 붙이는 것이 우리의 임무"라고 썼습니다. 그러나 Mosseri는 이러한 라벨이 기술의 한계로 인해 일부 콘텐츠를 놓치는 경우가 있다는 점을 인정했습니다. 따라서 플랫폼은 사용자가 정보의 신뢰성을 평가할 수 있도록 공유자의 배경 정보도 제공해야 합니다.
Mosseri는 인공지능 검색 엔진을 사용하기 전에 챗봇이 잘못된 정보를 제공할 수 있다는 점을 인지해야 하는 것처럼 이미지나 설명의 게시자가 신뢰할 수 있는 계정에서 온 것인지 확인하는 것도 챗봇의 진위 여부를 판단하는 중요한 수단이라고 지적했습니다. 콘텐츠. 현재 Meta 플랫폼은 Mosseri가 언급한 것과 유사한 배경 정보를 제공하지 않았지만 회사는 최근 향후 주요 콘텐츠 규칙 변경이 이루어질 것이라고 암시했습니다.
그가 설명하는 시스템은 플랫폼 X 및 YouTube의 커뮤니티 노트 또는 Bluesky의 사용자 정의 조정 기능과 유사한 사용자 주도 조정 메커니즘처럼 들립니다. Meta가 유사한 기능을 도입할지 여부에 대한 명확한 소식은 없지만 Meta가 최근 Bluesky의 경험을 통해 배웠으며 향후 이에 상응하는 개선이 이루어질 수 있다는 점은 주목할 가치가 있습니다.
Mosseri의 발언은 정보가 폭발적으로 증가하는 시대에 미디어 활용 능력을 향상하고 분별력을 강화하는 것이 중요하다는 점을 상기시켜 줍니다. 소셜 플랫폼은 또한 더 많은 책임을 맡고, 사용자가 인공 지능 생성 콘텐츠로 인해 발생하는 문제를 식별하고 대응할 수 있도록 돕는 효과적인 방법을 적극적으로 탐색하며, 보다 안전하고 신뢰할 수 있는 온라인 환경을 공동으로 구축해야 합니다.