MCN 조직은 인공 지능 프로그램을 사용하여 하루에 수천 개의 가짜 뉴스 항목을 생성하여 대량의 허위 정보가 인터넷에 입소문처럼 퍼지게 만듭니다. 새로운 플랫폼 계정은 AI "생성"을 사용하여 12개 이상의 전자책을 업데이트합니다. 매일 글이 비논리적이고 수사적입니다. AI가 생성한 허위 일러스트레이션 사용으로 인해 의학 논문이 철회되었습니다... 현재 AI가 텍스트를 생성, 위조 또는 변조하는 것이 점점 더 일반화되고 있습니다. , 사진, 오디오 및 비디오, 그리고 대량의 조잡한 "진실과 거짓을 구별하기 어려운 정보"쓰레기"가 쏟아져 "AI 오염"에 대한 논의가 촉발되었습니다.
작년부터 생성적 인공 지능(Generative Artificial Intelligence)은 전 세계적으로 열풍을 일으켰고, 그 파괴적인 응용 프로그램은 많은 산업과 인터넷 사용자에게 혜택을 주었습니다. 그러나 동전에는 양면이 있고, 생성적 인공지능에 수반되는 몇 가지 부정적인 문제도 존재한다. '정보 쓰레기'로 인한 'AI 오염'이 점점 더 두드러지고 있다.
칭화대 저널리즘커뮤니케이션대학 뉴미디어연구센터가 올해 4월 발표한 연구 보고서에 따르면 경제 및 기업 AI 관련 루머가 지난 1년간 99.91% 증가한 것으로 나타났다. 미국 수사기관 '뉴스가드'는 허위 기사를 생성하는 웹사이트 수가 2023년 5월 이후 15개 언어로 1000% 이상 급증했다고 밝혔다. 일부 전문가들은 AI가 생산하는 '정보 쓰레기'의 결과물이 거대하고, 식별하기 어렵고, 선별하는 데 비용이 많이 든다고 생각합니다.
“AI 오염”으로 인한 피해는 명백합니다. 'AI 오염'은 네티즌들을 인지적 환각에 빠지게 할 것이다. 특정 지식 공유 플랫폼에서는 “위는 천문학, 아래는 지리를 아는” 듯한 AI가 공허하고 무뚝뚝한 콘텐츠를 만들어낸다. 비판적 사고가 없으면 AI가 빠르게 엮어낸 '지식 체계'는 한편으로는 사람들의 비판적 사고 능력을 저하시킬 수도 있고, 다른 한편으로는 사람들을 인지적 환상에 빠지게 하여 대중의 인지 혼란을 야기할 수도 있습니다. , 그리고 대중을 왜곡함으로써 현실에 대한 집단적 이해와 과학적 합의는 궁극적으로 사람들을 AI에 의해 "주도"하게 만듭니다. 특히 인터넷과 함께 자란 젊은 세대의 경우 일단 그들의 인식이 '정보 쓰레기'에 의해 형성되면 그 결과는 재앙이 될 것입니다.
'AI 오염'은 AI 산업 발전에 역효과를 낳을 것이다. 우리 모두 알고 있듯이 AI 모델의 정확도는 훈련 데이터의 품질에 크게 좌우됩니다. AI에 의해 생성된 허위 및 스팸 콘텐츠가 인터넷으로 "리플로우"되어 AI 모델 훈련을 위한 새로운 데이터가 되는 경우, 이 "가비지 인, 쓰레기 아웃" 주기 모델은 AI의 출력 품질을 절벽으로 떨어뜨려 도움이 되지 않을 수 있습니다. AI 산업 전체의 발전을 위해. 예를 들어, 한 인터넷 기업은 검색 엔진 최적화를 사용해 AI가 생성한 기사를 검색 결과에 우선순위로 두어 사용자가 고품질 정보를 검색하기 어렵게 만들고 사용자로부터 광범위한 비판을 불러일으켰습니다.
또한, 'AI 오염'에는 법률, 윤리, 심지어 사회 안정 등 많은 문제도 포함됩니다. AI가 생산한 허위 콘텐츠는 지적 재산권 침해, 저작권 규정 흔들기, 개인 사생활 침해, 신원 정보 유출, 남용 위험이 있어 여론을 교란하고 조작할 수도 있습니다. 어려운.
인터넷의 'AI 오염'을 바로잡는 것이 시급하다고 볼 수 있다. 중국인터넷정보센터가 발표한 제54차 '중국 인터넷 발전 통계보고서'에 따르면 올해 6월 기준 우리나라 인터넷 사용자 수는 약 11억 명에 달한다. 인터넷은 인간 존재를 위한 새로운 터전을 구축하고 있으며, 젊은 세대는 인터넷의 '원주민'이 되었습니다. 'AI 오염'을 바로잡는 것은 깨끗한 사이버 공간을 만들고 좋은 삶을 보장하기 위해 필요한 조치라고 할 수 있습니다. 네티즌마다.
첫째, AI 학습 및 생성 메커니즘의 소스 거버넌스를 강화해야 합니다. 소스 자료 제어 및 생성된 콘텐츠 감독에 대한 AI 플랫폼의 책임을 명확히 하고, AI 콘텐츠 생성 규칙을 개선하고, AI 생성 콘텐츠에 눈에 띄는 라벨을 표시하도록 강제하고, AI 기술의 투명성과 설명 가능성을 향상시킵니다.
둘째, AI 생성 콘텐츠에 대한 심사 및 감독을 강화한다. 관련 부서와 기업은 AI 생성 콘텐츠의 심사 및 검토에 감독을 집중해야 하며, 관련 검토 알고리즘을 개발하고, 생성된 콘텐츠의 여론 분야로의 흐름과 전파를 표준화하며, 품질이 낮은 콘텐츠를 신속하게 발견하고 삭제할 수 있습니다. 거짓 내용.
셋째, AI 생성 콘텐츠를 식별하는 사용자의 능력을 향상시킵니다. 네티즌은 인터넷 정보를 합리적으로 처리하고 예방 인식과 식별 능력을 강화해야 합니다. 역검색 도구를 사용하여 콘텐츠의 출처와 작성자 정보를 확인하고 콘텐츠의 언어와 구조적 특성을 분석하여 '가짜'와 '가짜'를 식별할 수 있습니다. "밑에 붙이는".
사이버 공간은 쓰레기로 뒤덮인 "쓰레기 처리장"이 아닙니다. 'AI 오염'에 맞서 깨끗하고 안전한 네트워크 홈을 만들기 위해서는 모든 부서의 공동 관리와 사회 전체의 참여가 필요합니다.