인공지능(AI)은 창의성의 한계를 확장하고 소통 효율성을 높이는 동시에, 허위정보 확산, 지적재산권 침해 등 숨겨진 우려를 불러일으키며 국제 소통 생태계 구축에 새로운 도전을 제기하고 있다. 일부 언론과 국제기구에서는 “기술을 사용해 기술에 맞서고, 마법을 사용해 마법을 물리치는” AI 허위정보에 대처하기 위해 새로운 AI 기술을 적용하는 방법을 모색하기 시작했다.
그는 “전쟁에서 허위정보가 등장하는 것은 새로운 일이 아니지만 디지털 시대에 유례없는 위력을 얻었다”고 지난 14일 신장 우루무치에서 열린 제6차 세계미디어정상회의 개막식에서 허위정보가 미치는 영향에 대해 말했다. 바위화(Ba Yuhua) 국제적십자위원회 동아시아 지역대표부 커뮤니케이션부장은 이로 인한 피해에 대해 우려를 표명했다.
제너레이티브 AI와 대형 모델 기술의 적용으로 세상은 "보이는 것이 반드시 믿을 수 없고, 듣는 것이 반드시 사실이 아닐 수도 있는" 디지털 정보 시대로 접어들었습니다. 사운드, 비디오, 이미지 등 다중 모드 AI '딥 페이크' 콘텐츠의 등장으로 허위 정보의 안개가 점점 더 많아지고 있습니다.
"생성 AI 기술은 정교한 잘못된 정보와 허위 정보의 위험을 증가시킬 것입니다. 콘텐츠가 너무 많은 세상에서는 신뢰할 수 있는 뉴스 소스, 강력한 사실 확인 및 투명성에 대한 필요성이 더욱 커질 것입니다."라고 Reuters Asia Pacific 부사장은 말했습니다. 언론 정상회담에서 말했다.
미국 뉴스신뢰도평가연구소(US News Credibility Assessment and Research Institute)는 생성 AI가 허위 정보를 생성하는 능력을 추적하고 평가해 왔습니다. 지난해 말 국정원이 발표한 보고서에 따르면 AI 에이전트를 활용해 만든 가짜뉴스 사이트 수가 7개월 만에 49개에서 600개 이상으로 늘었다.
AI의 적용이 미디어 생태계 전체에 변화를 가져오고 정보 전달 환경이 점점 더 다양해지고 복잡해졌음에도 불구하고, 사실과 진실을 고수해야 하는 미디어의 사명과 책임은 변함이 없습니다.
"기술은 우리에게 새로운 기회를 열어주었지만 새로운 과제도 가져왔습니다. 인공 지능은 뉴스 전파의 효율성을 향상시킬 뿐만 아니라 우리의 윤리 기준을 재고하게 만들 것입니다. 헝가리 ATV 미디어 그룹의 CEO인 Kovacs Tao." 마쉬는 "나는 진실과 사실이 우리 미디어의 핵심이자 디지털 시대의 책임이라고 굳게 믿는다"고 말했다.
디지털 시대 허위 정보 생산 및 유포의 새로운 특성에 직면하여, 출처로부터 허위 정보 생성을 줄이기 위한 규제 및 지침을 강화하는 방법은 콘텐츠 추적성과 신뢰성을 보장하기 위한 새로운 기술 수단을 잘 활용하는 방법입니다. 많은 국가에서 언론의 공통 관심사가 되었습니다.
제6차 세계 미디어 서밋에서 신화통신의 국가 고급 싱크탱크는 '인공지능 시대 뉴스미디어의 책임과 사명' 싱크탱크 보고서를 전 세계에 발표했습니다. 보고서가 전 세계 53개 국가 및 지역의 뉴스 미디어 조직을 대상으로 조사한 결과, 응답자의 85.6%가 미디어 산업에 생성 AI 적용이 미칠 수 있는 부정적인 영향에 대응하여 어떤 형태로든 규제 및 거버넌스 강화를 지지하는 것으로 나타났습니다.
이번 정상회담에서는 중국과 외국 귀빈들이 AI 남용으로 인한 허위 정보 확산에 대처하는 방법에 대해 열띤 토론을 벌였습니다. "이번 정상회담은 허위 정보, 잘못된 정보, 증오심 표현을 처리하는 데 있어 전 세계 언론이 정보의 신뢰성을 높일 수 있는 기회를 마련했습니다." 유엔개발체제 중국 상주 조정관 Chang Qide가 정상회담 중 화상 연설에서 말했습니다.
유엔 산하 기관과 다국적 언론은 '진정성' 방어선 구축에 박차를 가하기 시작했다. Chang Qide는 UN이 올해 '글로벌 정보 무결성 원칙'을 발표하여 정부, 기술 회사, 광고주, 홍보 회사 및 미디어가 보다 윤리적인 정보 생태계를 공동으로 구축하기 위해 협력할 것을 촉구했다고 말했습니다.
전 세계적으로 신화통신, 로이터, 영국방송공사, 국립공영라디오 등의 기관에서는 미디어 산업에서 AI를 적용할 때 진정성을 침해할 수 있는 위험을 방지하기 위해 AI 행동 강령과 지침을 마련했습니다.
"AI의 도움으로 생성된 모든 위협에 대해 기술 자체는 효과적인 '해독제'를 제공할 수 있습니다." Rossiya Gazeta의 사장인 Pavel Negoitsa는 AI가 '심층 위조'를 감지하고 사기꾼의 행동 등을 막을 수 있다고 말했습니다.
대중이 인공지능이 생성한 콘텐츠를 쉽게 '믿는' 상황에 직면해, 많은 정당에서는 대중이 진위와 허위를 구별할 수 있도록 인공지능이 생성한 콘텐츠에 라벨을 추가할 것을 요구해 왔습니다. 올해 9월 중국 사이버 관리국은 '인공지능에 의해 생성된 합성 콘텐츠 라벨링 방법(의견용 초안)'에 대한 의견을 공개적으로 모집하여 네트워크 정보 서비스 제공업체가 관련 강제 국가 표준 요구 사항에 따라 라벨링해야 한다고 명시했습니다. . 2023년에 AFP와 주요 유럽 미디어 조직은 AI 정보 규제 및 산업 이니셔티브에 대한 성명을 발표하여 생성 AI 모델과 사용자가 출력 콘텐츠에 포함된 인공 지능 생성 콘텐츠를 명확하고 구체적이며 일관되게 식별하도록 요구했습니다.
일부 언론은 '진정성 방화벽' 구축을 위해 기술 기업과 협력하기 시작했다. 영국방송공사(British Broadcasting Corporation)와 Adobe, Google, Intel, Microsoft 등 미국 기업이 공동으로 콘텐츠 소스 및 진위성 동맹을 설립했습니다. 이 동맹은 디지털 미디어에 대한 콘텐츠 진위 라벨과 기록 추적성 정보 서비스 시스템을 제공하는 데 중점을 두고 있습니다.
미래에 AI의 적용은 의심할 바 없이 정보 환경의 복잡성을 더욱 증가시킬 것입니다. 언론은 대중을 위해 거짓 정보의 안개를 걷어내고 명확한 정보를 제공하기 위해 '진위성은 뉴스의 생명'이라는 원칙을 고수해야 합니다. 여론 환경.