2024년 미국 대통령 선거가 다가오고 있는 가운데, 생성적 인공지능(AI)이 이 정치 경쟁에 전례 없는 방식으로 영향을 미치고 있다. AI가 생성한 정치 선전 이미지부터 딥페이크 전화 통화까지 AI 기술은 유권자의 판단에 영향을 미치고 심지어 선거 결과를 조작하는 데에도 사용되고 있습니다. Downcodes의 편집자는 AI 기술이 선거에서 어떻게 악의적으로 사용될 수 있는지, 그리고 이 새로운 도전에 대처할 수 있는 방법에 대한 심층적인 이해를 제공할 것입니다.
2024년 미국 대통령 선거가 다가오면서 우리는 새로운 시대에 진입했습니다. 생성 인공지능(AI)이 선거 무대에서 두각을 나타내기 시작했습니다. 상상해 보세요, 유권자의 투표 결정은 AI가 생성한 이미지, 비디오 및 오디오에 의해 영향을 받을 수 있습니다. 그를 지지했고 사진은 처음에는 풍자용으로 표시되었습니다.
더욱 걱정스러운 것은 지난 1월 일부 뉴햄프셔 주민들이 민주당 예비선거에 참여하는 것을 막기 위한 딥페이크 전화를 받았다는 것입니다. 전문가들은 투표일까지 몇 달밖에 남지 않은 상황에서 유사한 AI 허위 정보가 더욱 심해질 것이며 이를 식별하는 기술은 아직 미성숙하다고 말합니다. 조지아대학교 정치학과 랜스 헌터 교수는 "일부 사람들이 이것이 거짓이라는 사실을 깨닫지 못한다면 이는 선거 결과에 중대한 영향을 미칠 수 있다"고 말했다.
Generative AI는 다양한 이미지, 비디오 및 오디오를 생성하는 기능을 통해 챗봇을 훨씬 뛰어넘는 애플리케이션을 갖추고 있습니다. 이러한 기술은 전 세계적으로 빠르게 확산되고 있으며 이를 악의적인 목적으로 사용하려는 사람을 포함해 누구에게나 쉽게 접근할 수 있습니다. 실제로 이러한 내용이 실제로 유권자의 선택에 영향을 미쳤는지는 확실하지 않지만 인도, 인도네시아, 한국과 같은 국가에서 이런 일이 발생했습니다. 하지만 트럼프나 해리스 부통령의 가짜 동영상이 입소문을 타면 투표에 어떤 영향을 미칠지 상상해 보세요!
미국 국토안보부 산하 사이버보안 및 인프라 보안국(CISA)은 생성 AI가 야기할 수 있는 위협에 대해 높은 경계 태세를 취해왔습니다. CISA의 수석 고문인 케이트 콘리는 "외국의 적들은 이전 선거에서 미국 선거와 그 인프라를 표적으로 삼았고 우리는 이러한 위협이 2024년에도 계속될 것으로 예상한다"고 말했습니다. 그녀는 CISA가 주와 지방 정부를 대신하여 일하고 있다고 강조했습니다. 외부 영향 운영 및 허위 정보에 대한 지침.
그렇다면 선거를 앞두고 생성 AI로 인한 혼란을 어떻게 막을 수 있을까? 문제는 생성된 콘텐츠 중 상당수가 진위와 가짜를 쉽게 구별하기 어렵다는 점이다. 기술의 발전으로 AI가 생성한 콘텐츠는 '15손가락'이라는 기이한 이미지에서 오늘날 실제와 같은 이미지로 발전했다.
지난 7월 바이든 행정부는 AI로 인한 잠재적 위험을 해결하기 위해 Amazon, Anthropic, Google, Meta, Microsoft 및 OpenAI를 포함한 기업으로부터 자발적인 약속을 받았습니다. 그러나 이러한 계약은 법적 구속력이 없습니다. Hunter 교수는 앞으로는 정치 캠페인에서 허위 내용을 구체적으로 통제하기 위한 법안이 연방 차원에서 초당적 지지를 받을 것이라고 믿습니다.
Meta, TikTok 등의 소셜 미디어 플랫폼 그러나 기존 탐지 도구는 이상적이지 않습니다. 일부 도구는 "뱀기름"이라는 비판을 받기도 하며 정확한 답변을 제공할 수 없으며 종종 "85% 확률"이라는 모호한 판단만 제공합니다.
선거일이 다가옴에 따라 생성 AI 기술은 여전히 빠르게 발전하고 있으며, 이로 인해 악의적인 행위자가 이 기술을 사용하여 투표가 시작되기 전에 더 많은 온라인 혼란을 조성할 것인지에 대한 우려가 커지고 있습니다. 최종 선거 상황은 모두가 지켜보고 있습니다.
AI로 인한 선거 위험에 직면하여 정부, 기술 기업 및 소셜 미디어 플랫폼은 협력하여 감독을 강화하고 대중의 분별력을 향상시켜 공정하고 공정한 선거를 보장해야 합니다. AI 기술이 적용된 이 게임은 이제 막 시작되었습니다.