'청두 대규모 철거' 온라인 루머로 AI 남용 위험 드러났다
저자：Eve Cole
업데이트 시간：2025-01-23 23:00:02
최근 IP 주소가 공개된 쓰촨성 네티즌들은 소셜미디어에 집중적으로 “900만 위안 이상을 받았다”, “아파트 17채와 3년 임대료를 받았다” 등 자신들이 받은 철거 보상금을 “공유”했다. 하룻밤 사이에 # ChengduLargescaleDemolition #이라는 주제가 입소문을 냈습니다. #chengdudemolition# #成수도综합외围上新# 및 기타 관련 주제가 다양한 플랫폼의 인기 검색 목록에 연속적으로 등장했습니다.
앞서 청두시 주택도시농촌개발국 직원들은 이 소문을 반박했고, 쓰촨 옵저버(Sichuan Observer) 기자들도 청두의 대규모 철거 상황을 알아보기 위해 현장을 찾았다. 보상금 1000만 이상 받은 사람 있나요? 루머에 대한 공식적인 반박은 여기까지입니다! “대규모 철거”와 “거액 보상”? 기자는 현장 철거 가구를 방문했다. 10월 17일 청두 경찰은 “쓰촨성에서 2조 1500억 규모의 철거 프로젝트를 시작했다”는 것은 AI 소프트웨어를 사용해 생성된 허위 정보라고 보고했고, 불법 가해자 옌 모우모(Yan Moumou) 외 4명이 유죄 판결을 받았다. 사실을 조작하여 공공질서를 문란하게 한 경우 공안기관이 법에 따라 행정처벌을 가합니다.
청두 공안국의 경찰 보고서는 사회 모든 부문의 관심과 거버넌스가 시급히 요구되는 AI 기술 의 오용으로 인한 심각한 위험을 밝혔습니다. 가장 직접적인 여론 위험은 허위 정보가 더 혼란스러워지고 생성 및 유포가 더 쉽고 빨라진다는 것입니다. 이 경우 범죄자는 온라인에 게시된 관련 주제에 대한 정보를 종합하고 AI 기술을 사용하여 "권위 있는" 텍스트를 생성했습니다. 이후 허위 철거 보상 정보는 소셜 미디어 플랫폼을 통해 빠르고 널리 퍼졌습니다. 현재 효율적인 정보 전파 환경에서 이러한 현상은 실제 상황을 심각하게 오도하고, 허위 정보의 '진실' 전파를 형성하며, 대중에게 잘못된 인지 반응을 가져올 수 있습니다.
대중이 허위 정보에 빈번하게 노출되면 공식 정보에 대한 신뢰가 영향을 받게 되며 , 특히 정부 정책이나 사회 보장과 같은 주요 공무와 관련하여 허위 정보가 확산되면 사람들은 공식 정보에 대해 의문을 갖게 되고 변경됩니다. 사회의 인지구조는 공황과 오해를 불러일으킨다. 이러한 신뢰성 훼손은 정책의 효과적인 전파에 영향을 미칠 뿐만 아니라, 정부의 신뢰성과 사회 안정에 심각한 도전을 초래할 수도 있습니다. 여론의 롱테일 효과는 시장경제질서에 영향을 미칠 수 있으며, 허위정보의 광범위한 확산은 어느 정도 시장의 비합리적인 반응을 촉발하여 비정상적인 가격변동을 초래하여 시장의 수요공급 불균형을 심화시킬 수 있습니다. . 이러한 불안정한 요인은 시장질서를 교란시킬 뿐만 아니라, 투자자들의 패닉을 유발하여 더 큰 시장교란의 위험을 촉발할 수 있습니다. AI 기술의 오용과 그에 따른 여론 위험을 고려하여 사회 모든 부문은 AI 기술에 대한 도덕적, 법적 감독을 강화해야 합니다.
AI 기술의 합리적 적용을 제한하고 안내하기 위해 상응하는 법적 규범과 정책 프레임워크를 구축하는 것 외에도 여론 대응 및 처리 수준에서 다음과 같은 방법을 시도할 수도 있습니다. ① 소셜 미디어 플랫폼을 안내하여 정보 검토 및 감독 메커니즘을 강화합니다. 소셜 미디어 플랫폼은 콘텐츠 검토 및 감독을 강화하기 위해 정보 검토 메커니즘을 적극적으로 구축해야 합니다. 정보 공개 과정에서 플랫폼은 허위 정보의 확산을 줄이기 위해 자료의 진위 여부에 대한 사전 심사를 수행해야 합니다. 동시에 콘텐츠 모니터링 및 식별에는 AI 기술을 활용해 허위정보를 신속하게 탐지하고 차단한다. 또한, 플랫폼은 대중이 허위 정보를 신고하도록 장려하고 사회 거버넌스 역량을 강화하기 위한 불만 사항 처리 메커니즘을 구축해야 합니다.
② 투명하고 시기적절한 정보 공개를 옹호한다. 정부와 관련 기관은 투명하고 시기적절한 정보 공개 원칙을 적극적으로 채택하고, 진실된 정보를 대중에게 정기적으로 알리는 관련 메커니즘을 구성해야 한다. 특히 공익이 관련된 주요 행사에서 공식 정보를 적시에 공개하면 소문 확산을 효과적으로 방지하고 공식 정보에 대한 대중의 신뢰를 강화할 수 있습니다. 정부는 자체 공개 채널과 전통적인 주류 미디어 외에도 권위 있는 온라인 미디어 플랫폼과 정부 자체 미디어를 활용하여 대중의 정보 요구 사항을 충족하기 위해 정보 공개의 적시성과 편의성을 향상시킬 수 있습니다. ③ 대중의 미디어 리터러시를 함양하고 향상시킨다. 정보전달의 배경이 다양해짐에 따라 대중의 미디어 리터러시를 향상시키는 것이 특히 중요하다. 교육과 홍보를 통해 사람들의 허위 정보 식별 능력을 향상시키고, 접하는 정보를 보다 합리적으로 분석하고 판단할 수 있게 하며, 허위 정보로 인한 사회적 혼란과 패닉을 줄일 수 있습니다. 커뮤니티, 거리 등 풀뿌리 차원에서 온라인 정보의 진위 여부 파악 교육을 실시하여 정보 출처 식별, 온라인 루머 검증 방법, 루머에 대한 비판적 사고를 확립하는 방법을 대중이 이해하고 숙달할 수 있도록 하는 것이 좋습니다.
