Интернет-слухи о «масштабном сносе Чэнду» раскрывают риск злоупотреблений ИИ
Автор：Eve Cole
Время обновления：2025-01-23 23:00:02
Недавно пользователи сети в Сычуани, чей IP-адрес указан, сосредоточились в социальных сетях, чтобы «поделиться» полученной компенсацией за снос: «получили более 9 миллионов юаней», «получили 17 квартир и трехлетнюю арендную плату» и т. д. В одночасье тема #ChengduLargescaleDemolition # стала вирусной. #chengdudemolition# #成都综合外围上新# и другие связанные темы последовательно появлялись в горячих списках поиска на различных платформах.
Ранее сотрудники Муниципального бюро жилищного строительства и городского и сельского развития Чэнду опровергли эти слухи, а репортеры Sichuan Observer также посетили это место, чтобы узнать о ситуации. Масштабный снос в Чэнду? Кто-нибудь получил более 10 миллионов компенсации? Официальное опровержение слухов уже здесь! «Масштабный снос» и «огромная компенсация»? Репортер посетил места сноса домов: «Это пустяки». 17 октября полиция Чэнду сообщила, что «Сычуань запустила проект по сносу зданий стоимостью 2,15 триллиона долларов» — это ложная информация, созданная с помощью программного обеспечения искусственного интеллекта . Незаконный преступник Ян Моуму и еще четыре человека были признаны виновными. за фабрикацию фактов нарушение общественного порядка влечет за собой административную ответственность со стороны органов общественной безопасности в соответствии с законом.
Отчет полиции Бюро общественной безопасности Чэнду выявил серьезные риски, вызванные неправомерным использованием технологий искусственного интеллекта , которые срочно требуют внимания и управления со стороны всех слоев общества. Самый прямой риск общественного мнения заключается в том, что ложная информация становится более запутанной, что упрощает и ускоряет ее создание и распространение. В этом случае преступник собрал воедино информацию по соответствующим темам, размещенную в Интернете, использовал технологию искусственного интеллекта для создания «авторитетного» текста и затем информация о ложной компенсации за снос быстро и широко распространилась через платформы социальных сетей. В нынешних условиях эффективного распространения информации это явление может серьезно ввести в заблуждение о реальной ситуации, сформировать «правдивое» распространение ложной информации и вызвать у общественности неправильные когнитивные реакции.
Когда общественность часто сталкивается с ложной информацией, доверие к официальной информации снижается , особенно когда речь идет о важных общественных делах, таких как государственная политика и социальное обеспечение. Распространение ложной информации заставит людей подвергать сомнению официальную информацию и изменять ее. когнитивная структура общества. Создавать панику и непонимание. Эта эрозия доверия не только влияет на эффективное распространение политики, но также может создать серьезные проблемы для доверия к правительству и социальной стабильности. Эффект общественного мнения может повлиять на рыночный экономический порядок. Широкое распространение ложной информации может в определенной степени вызвать иррациональную реакцию на рынке, что приведет к аномальным колебаниям цен и тем самым усугубит дисбаланс между спросом и предложением на рынке. . Такие нестабильные факторы не только нарушают рыночный порядок, но также могут спровоцировать панику среди инвесторов, тем самым создавая риск более масштабных нарушений на рынке. Учитывая злоупотребление технологией ИИ и связанные с этим риски для общественного мнения, все слои общества должны усилить моральный и юридический надзор за технологией ИИ.
Помимо установления соответствующих правовых норм и политических рамок для ограничения и руководства рациональным применением технологий искусственного интеллекта, на уровне реагирования и устранения общественного мнения также можно опробовать следующие методы: ① Направлять платформы социальных сетей для усиления механизмов проверки и контроля информации. Платформы социальных сетей должны активно создавать механизм проверки информации для усиления проверки и контроля контента. В процессе публикации информации платформы должны проводить предварительную проверку подлинности материалов, чтобы уменьшить распространение ложной информации. При этом технология искусственного интеллекта используется для мониторинга и идентификации контента, чтобы оперативно обнаруживать и блокировать ложную информацию. Кроме того, платформы должны создать механизм подачи жалоб, чтобы побудить общественность сообщать ложную информацию и расширить возможности социального управления.
② Пропагандировать прозрачное и своевременное предоставление информации. Правительство и соответствующие ведомства должны активно принять принцип прозрачного и своевременного предоставления информации и сформировать соответствующий механизм для регулярного информирования общественности правдивой информации. Своевременное раскрытие официальной информации может эффективно бороться с распространением слухов и укреплять доверие общества к официальной информации, особенно в случае крупных событий, затрагивающих общественные интересы. В дополнение к своим собственным каналам распространения информации и традиционным средствам массовой информации, правительство может также использовать авторитетные онлайн-медиа-платформы и правительственные средства массовой информации для повышения своевременности и удобства выпуска информации для удовлетворения информационных потребностей общественности. ③ Культивировать и повышать медиаграмотность населения. Учитывая разнообразие условий распространения информации, особенно важно повышать медиаграмотность населения. Посредством образования и пропаганды мы можем улучшить способность людей выявлять ложную информацию, дать им возможность более рационально анализировать и оценивать информацию, с которой они сталкиваются, а также уменьшить социальный хаос и панику, вызванные ложной информацией. Рекомендуется проводить обучение по определению подлинности онлайн-информации на низовом уровне, например, в сообществах и на улицах, чтобы помочь общественности понять и освоить методы определения источников информации, проверки онлайн-слухов и сформировать критическое мышление в отношении слухов.
