이 기사는 생성 인공 지능이 전 세계 여러 국가 및 지역의 선거에 미치는 영향을 평가한 Meta가 발표한 최근 보고서를 분석합니다. 보고서는 정치적 선전을 위해 인공지능을 활용하거나 허위 정보를 유포하는 사례가 일부 있지만, 그 영향의 정도는 예상보다 훨씬 낮으며, 메타의 기존 정책과 조치로는 이 문제를 해결하기에 충분하다고 결론지었습니다. 보고서에는 메타가 취한 대응 조치를 자세히 설명하고, 다른 플랫폼에서 허위 정보가 확산되는 상황을 분석합니다.
올해 초, 생성 AI가 어떻게 세계 선거를 방해하고 선전과 허위 정보를 퍼뜨릴 수 있는지에 대한 우려가 널리 퍼졌습니다. 그러나 Meta의 최근 보고서에 따르면 이러한 우려가 해당 플랫폼에서는 실현되지 않은 것으로 나타났습니다. 메타는 페이스북, 인스타그램, 스레드 등 소셜 플랫폼에서 생성 인공지능이 선거 관련 정보에 미치는 영향이 극히 제한적이라고 말했다.
사진 출처 참고: 사진은 AI에 의해 생성되었으며 사진은 서비스 제공업체 Midjourney의 승인을 받았습니다.
Meta의 연구에 따르면 이 보고서는 미국, 방글라데시, 인도네시아, 인도, 파키스탄, 유럽 의회, 프랑스, 영국, 남아프리카 공화국, 멕시코 및 브라질을 포함한 여러 국가 및 지역의 주요 선거를 다루고 있습니다. Meta는 선거 기간 동안 실제로 인공 지능 사용이 확인되거나 의심되는 경우가 있었지만 전체 숫자는 여전히 낮으며 기존 정책과 프로세스는 생성 AI 콘텐츠로 인한 위험을 줄이는 데 충분하다고 언급했습니다. 보고서에 따르면, 위 선거 기간 동안 선거, 정치, 사회 주제와 관련된 AI 콘텐츠가 팩트체크된 허위정보 중 1% 미만을 차지한 것으로 나타났다.
선거 관련 딥페이크 이미지를 방지하기 위해 Meta의 Imagine AI 이미지 생성기는 선거일을 앞두고 한 달 동안 트럼프, 해리스 부통령, 왈츠 주지사, 바이든 대통령과 관련된 생성된 이미지 590,000개를 거부했습니다. 또한 Meta는 선전이나 허위 정보를 퍼뜨리려는 온라인 계정에서 생성 AI를 사용할 때 생산성과 콘텐츠 생성 향상이 미미하다는 사실을 발견했습니다.
Meta는 AI의 사용이 이러한 은밀한 영향력 활동에 맞서 싸우는 능력을 방해하지 않는다는 점을 강조했습니다. 왜냐하면 회사는 콘텐츠가 AI에 의해 생성되었는지 여부에 관계없이 게시하는 콘텐츠보다는 이러한 계정의 행동에 초점을 맞추기 때문입니다. 또한 Meta는 외국의 간섭을 방지하기 위해 전 세계적으로 약 20개의 새로운 비밀 영향력 작전을 제거했다고 발표했습니다. 이러한 히트 네트워크의 대부분은 실제 청중이 없으며 일부는 가짜 좋아요와 팔로어를 통해 인기를 허위로 표시하기도 합니다.
메타도 X 등 플랫폼에서 미국 선거와 관련된 허위 영상이 자주 등장한다며 다른 플랫폼을 비난하기도 했다. Meta는 올해 동안 얻은 교훈을 토대로 정책을 계속 검토하고 향후 몇 달 안에 변경 사항을 발표할 것이라고 말했습니다.
전체적으로 Meta의 보고서는 생성 인공 지능이 선거에 미치는 영향에 대한 귀중한 참고 데이터를 제공하며, Meta의 사전 대응 조치도 배울 가치가 있습니다. 그러나 향후 발생할 수 있는 문제를 해결하려면 지속적인 모니터링과 개선이 여전히 필요합니다. 기술 발전은 네트워크 환경의 건전성과 안정성을 더 잘 유지하기 위해 해당 감독 및 대응 전략과 조화를 이루어야 합니다.