Фотографии не обязательно могут быть правдой! Как развеять слухи о катастрофах, связанных с ИИ?

Не так давно многие части страны пострадали от экстремальных погодных условий, особенно после наступления основного сезона паводков. В некоторых районах наблюдались экстремально высокие температуры, рекордно сильные дожди и непредсказуемая ветреная погода. Эти экстремальные погодные явления стали причиной стихийных бедствий, таких как наводнения и оползни, которые оказали серьезное влияние на жизнь людей и производственную деятельность. Возмущает то, что некоторые люди воспользовались возможностью использовать Интернет и технологии искусственного интеллекта (ИИ) для создания и распространения слухов о стихийных бедствиях, еще больше разрушая и без того напряженную информационную среду. Почему существуют слухи о катастрофах и рисках Какое влияние оказало развитие технологий искусственного интеллекта в последние годы на слухи о катастрофах и рисках? Как ограничить создание и распространение слухов о катастрофах и рисках? ИИ стал новой тенденцией в слухах, связанных со стихийными бедствиями, во время сезона наводнений. Если вы каждый год просматриваете платформы, опровергающие слухи, такие как Объединенная платформа по опровержению слухов в Интернете, в июле и августе, вы обнаружите, что слухи связаны с высокими температурами, наводнениями и стихийными бедствиями. и другие поля часто встречаются. С июля этого года стихийные бедствия, такие как наводнения, заболачивание и оползни, вызванные сильными дождями, продолжают обостряться, нанося значительный ущерб жизням и имуществу людей. Соответствующие слухи также стали широко распространяться, мешая работе по управлению чрезвычайными ситуациями. Недавно в Интернете появились сообщения: «Пик наводнения прошел, и Хуньядун в Чунцине был затоплен», «Сильные дожди в Чанше, Хунань, привели к затоплению многих мотоциклов», «Наводнение в Дачжоу, Сычуань привело к гибели многих людей», «Сильные дожди в Дэнчжоу, Хэнань убили более тысячи человек»» и другие слухи имеют крайне плохое воздействие. После рассмотрения и сортировки типов онлайн-слухов, связанных с бедствиями и рисками за последние годы, их можно условно разделить на три категории. Один из них – фабрикация катастроф и жертв. Некоторые пользователи сети фабрикуют или преувеличивают реальную ситуацию в пострадавших от стихийных бедствий районах, например, неверно сообщая о высоте наводнения, количестве пострадавших или масштабах материального ущерба, а также распространяя неподтвержденную информацию о жертвах, в том числе о количестве погибших. и пропавшие без вести лица, что вызвало общественную панику и тревогу. Например, 4 августа пользователь сети из провинции Цзянсу опубликовал видео, в котором говорится, что в уезде Лушань провинции Яань провинции Сычуань произошло сильное внезапное наводнение, и более 30 человек потеряли связь. Интернет-информационное бюро парткома уезда Лушань позже опубликовало заявление, в котором разъяснилось, что после проверки в уезде Лушань за последние дни не было ливневых наводнений, а также не было случаев потери контакта. Второй — публиковать вводящие в заблуждение видео или изображения. Самый распространенный метод - «фальсифицировать свою истинную личность» и «подменить факты», то есть фотографии или видео прошлых катастроф или других несвязанных событий подделываются под сцены текущего бедствия, ложно сообщая о ситуации бедствия и вводя в заблуждение. мнение общественности. Например, 19 июня пользователь сети разместил на короткой видеоплатформе сообщение о том, что в городе Цзюу уезда Линчуань города Гуйлинь провинции Гуанси произошел сильный оползень. После проверки Интернет-информационным бюро Гуйлиня видео, размещенное в Интернете, на самом деле представляет собой видео крупномасштабного оползня, произошедшего на горе Идзу в городе Атами, Япония, 3 июля 2021 года. Пользователь сети исказил свое видео и серьезно ввел общественность в заблуждение. Третий – сфабриковать ложную информацию о спасении. Например, публикация ложных сведений о потребностях в спасении, отчетах о пожертвованиях или информации о наборе добровольцев не только потребляет драгоценные спасательные ресурсы, но также может задержать реальные спасательные операции и оказать негативное влияние на усилия по оказанию помощи при стихийных бедствиях. Например, в 2023 году преступники без разрешения использовали аккаунт Общества Красного Креста города Цзясин провинции Чжэцзян и совершали мошенничество в Интернете под предлогом «возврата пожертвований». Не так давно в общедоступном аккаунте WeChat Центра интернет-информации провинции Хунань также было объявлено о случае: пользователь сети Ян использовал технологию искусственного интеллекта, чтобы соединить воедино фотографии речной воды и ягодных деревьев, создав иллюзию того, что проливные дожди и поднимающаяся вода затопили фруктовые деревья. . Реалистичные изображения заставили некоторых людей поверить в это, вызвав панику. Упомянутая в деле технология искусственного интеллекта — один из новых методов, которые в последнее время используются для создания слухов о катастрофах и рисках. В последние годы, с развитием таких технологий, как генеративный искусственный интеллект и синтез видео, во многих местах по всей стране стали часто возникать слухи о стихийных бедствиях, созданные с использованием новых технологий, таких как искусственный интеллект. Производственный порог ниже и более запутан. 12 апреля Министерство общественной безопасности объявило о 10 типичных случаях борьбы с онлайн-слухами и преступлениями: «Бюро общественной безопасности Цзянси расследовало и рассмотрело дело, когда агентство MCN (многоканальная сеть) использовало инструменты искусственного интеллекта для распространения слухов» и « Бюро общественной безопасности Чунцина расследовало и рассмотрело случай использования инструментов искусственного интеллекта. Среди них — дело об использовании инструментов для фабрикации слухов о «несчастном случае со взрывом». Организация MCN в Наньчане, провинция Цзянси, столкнулась с использованием передового программного обеспечения искусственного интеллекта для автоматического сбора сетевой информации путем ввода ключевых слов, а затем создания статей длиной от сотен до тысяч слов. Эти статьи кажутся богатыми информацией, но на самом деле их содержание в основном сфабриковано и сопровождается ложными фотографиями, которые кажутся связанными с событием, что значительно увеличивает их вводящий в заблуждение характер. Максимальный выпуск фейковых статей, создаваемых этой организацией, может составлять от 4000 до 7000 статей в день. Текущее развитие технологии искусственного интеллекта достигло относительно зрелой стадии. Многие инструменты и услуги искусственного интеллекта коммерциализированы, и их легко получить. Также доступны бесплатные или недорогие версии. Для этого не требуются профессиональные навыки программирования или расширенные технические знания. люди могут использовать их. Готовое программное обеспечение или онлайн-сервисы можно использовать для создания текста, изображений или видео, что значительно снижает экономические затраты и затраты времени на создание слухов. ИИ также может быстро генерировать актуальные слухи на основе горячих событий и автоматически объединять информацию для формирования, казалось бы, разумного повествования, повышая достоверность информации. Например, 23 января 2024 года для получения трафика и получения прибыли нелегальный актер Ян Моуму использовал программное обеспечение искусственного интеллекта для создания ложной новостной информации о том, что «в результате оползня в Юньнани погибло 8 человек», и собрал соответствующую информацию в Интернете. . Публикация на онлайн-платформах, вызывающая негативные социальные последствия. Репортер просмотрел ложные новости, опубликованные Ян Моуму. Этот слух, написанный ИИ, содержит краткую информацию, полную информацию и профессиональные формулировки. На первый взгляд, он очень похож на новости, публикуемые ежедневными официальными СМИ, и может легко ввести читателей в заблуждение. Почему слухи о стихийных бедствиях сохраняются? Изучите отправную точку создания и распространения слухов о стихийных бедствиях, используя любопытство и обеспокоенность людей, привлекая внимание общественности путем создания сенсационного контента и увеличивая количество просмотров и поклонников учетных записей в социальных сетях. , и тогда получение коммерческой выгоды является одной из основных целей многих издателей ложной информации. Например, как упоминалось ранее, «Бюро общественной безопасности Цзянси расследовало дело, когда агентство MCN использовало инструменты искусственного интеллекта для распространения слухов». По первоначальным оценкам, ежедневный доход компании превышает 10 000 юаней. Не так давно интернет-знаменитость разместила на платформе Douyin два видеоролика о наводнении, на которых показаны автомобили, смываемые наводнением, и утверждается, что из-за недавних сильных дождей проливные дожди и повышение уровня воды произошли во многих местах Юнчжоу, провинция Хунань. 26 июня полиция полицейского участка Сяоцзяюань Бюро общественной безопасности Леншуйтань города Юнчжоу после допроса в соответствии с законом обнаружила, что соответствующее видео представляет собой видео, которое Ян скачал из Интернета с целью привлечь внимание и привлечь к себе внимание. трафика, независимо от фактов, а затем разместил текст в своем онлайн-аккаунте. Это были не местные факты. Такое поведение ради привлечения внимания, трафик превыше всего, а прибыль имеет первостепенное значение, поэтому Ян в конечном итоге был наказан административно. Некоторые распространители слухов могут выражать свое отношение или эмоции путем злонамеренного распространения ложно-негативной информации из-за неудовлетворенности реальностью или по другим эмоциональным причинам. Более того, они пытаются повлиять на имидж правительства, политические решения или направление общественного мнения, создавая хаос. Кроме того, есть люди, которые не распространяют слухи намеренно, но невежественны и бесстрашны, пересылают и делятся информацией из неизвестных источников без проверки. Человечеству угрожали различные стихийные бедствия с момента его зарождения. На протяжении всей истории, как в стране, так и за рубежом, всякий раз, когда происходит стихийное бедствие, его часто сопровождают слухи. Например, «Цаомузы» зафиксировал такой слуховой инцидент: на 14-м году правления Чжичжэна династии Юань в южном регионе прошел редкий проливной дождь, который длился более 80 дней, затопляя страну, вызывая наводнения и голодные бедствия. В то время ходили слухи, что большое количество драконов, спрятавшихся под землей, воспользовались проливным дождем, чтобы выбраться наружу. Многие люди поверили этому и были очень запаникованы. В 1978 году, после трех землетрясений в Салониках, Греция, возникли слухи, что «в центре города произойдет сильное землетрясение». В 2019 году, когда супертайфун «Лекима» обрушился на Китай, в социальных сетях появились такие слухи, как «Крокодилы внезапно появились на улицах» и «Однажды ночью в 19:00 все крышки люков на земле будут открыты, чтобы облегчить дренаж». вызывая ненужную панику среди населения. В 2023 году в Цзишишань провинции Ганьсу произошло землетрясение силой 6,2 балла. За этот период Ганьсу и Цинхай административно наказали 14 пользователей сети за распространение слухов о помощи при землетрясении и ликвидации последствий стихийных бедствий, а также раскритиковали и обучили 121 человека в соответствии с законом. В частности, в Интернете широко распространился «слух о том, что пуховики Canada Goose, подаренные пострадавшему от землетрясения району Ганьсу, были перепроданы», что вызвало негативный эффект. Был еще такой «странный инцидент» в 2010 году: тогда в Интернете появились слухи о том, что разрушительные землетрясения могут произойти в таких городах, как Тайюань, Шаньси, с 13:00 до 7:00 восьмого дня первого лунного месяца. Цзиньчжун, Лулян, провинция Шаньси. Десятки уездов и городов, тысячи деревень и почти десятки миллионов домов в Тайюане и других местах ярко освещены. На холодном ветру люди не ложатся спать до поздней ночи и толпятся на улицах, чтобы «. жди землетрясения». Почему слухи о стихийных бедствиях, таких как землетрясения и наводнения, так популярны? Поскольку у людей есть естественный страх перед стихийными бедствиями, этот страх сделает людей более чувствительными к актуальным новостям. Столкнувшись с угрозой возможной катастрофы, люди склонны верить в худший сценарий, что способствует распространению паники. Более того, до и после катастрофы официальная информация часто не может быть доведена до всех своевременно и точно, что создает пространство для размножения слухов. Люди с большей вероятностью будут доверять информации из неформальных каналов, особенно в регионах с ограниченной информацией или слаборазвитыми сетями. Кроме того, у некоторых людей может не хватать достаточных научных знаний для определения достоверности информации и иметь стадный менталитет. Эти факторы в совокупности способствуют росту и распространению слухов. «Ущерб, причиненный широко распространенными слухами о землетрясении, не меньше, чем ущерб от умеренного землетрясения». Ложная информация о стихийных бедствиях и рисках не только создаст ненужную панику, преувеличивая чрезвычайно суровые погодные условия или последствия стихийных бедствий; она занимает и без того ограниченные каналы информационных ресурсов; и даже скрывает точную информацию, публикуемую официальными лицами, и реальные потребности пострадавших от стихийных бедствий людей, обращающихся за помощью через Интернет. Такое поведение не только наносит ущерб общественным интересам и оказывает негативное влияние на социальное доверие, но также может создать проблемы для спасательных работ, оказания помощи при стихийных бедствиях и реагирования на чрезвычайные ситуации. Интеллектуальный и ручной анализ необходимо сочетать, чтобы обеспечить достоверность информации в условиях стихийных бедствий. Как говорится, если распустишь слух, то потеряешь ноги, если его опровергнешь. Хотя распространители слухов в упомянутых выше случаях распространения слухов были наказаны, и крупные веб-платформы также активно опровергали соответствующие слухи, это не может. Следует исключить, что некоторые пользователи сети только смотрят. Если есть слухи и нет разъяснений, влияние слухов не может быть полностью устранено. Быстрое распространение слухов о стихийных бедствиях не только легко вводит общественность в заблуждение, но также может вызвать панику, нерациональное использование ресурсов и даже вторичные бедствия. Поэтому улучшение способности общественности выявлять слухи об ИИ и усиление надзора за онлайн-платформами стали неотложными вопросами, которые необходимо решить. Чтобы контролировать хаос мошенничества с использованием ИИ и углубить управление сетевой экосистемой, соответствующие департаменты и платформы в последние годы ввели ряд политик и мер. С постепенным улучшением законов и правил, связанных с ИИ, права и обязанности. всех сторон постепенно стали яснее. В декабре 2021 и ноябре 2022 года Администрация киберпространства Китая и другие ведомства последовательно издали «Правила управления рекомендациями по алгоритмам для информационных служб Интернета» и «Правила управления глубоким синтезом информационных служб Интернета», направленные на целевое использование алгоритмов искусственного интеллекта для распространения незаконной и вредоносной информации. Для решения таких проблем, как нарушение прав пользователей и манипулирование общественным мнением, мы должны усилить управление безопасностью и способствовать разумному и эффективному использованию технологии рекомендаций алгоритмов и технологии глубокого синтеза в соответствии с закон. Среди них «Административный регламент по глубокому синтезу информационных услуг Интернета» требует, чтобы поставщики услуг глубокого синтеза и пользователи не использовали услуги глубокого синтеза для производства, копирования, публикации и распространения ложной новостной информации, и указывает, что поставщики услуг глубокого синтеза должны создать и усовершенствовать механизм опровержения слухов. Любой, кто использует услуги глубокого синтеза для производства, копирования, публикации или распространения ложной информации, должен принимать своевременные меры по опровержению слухов, вести соответствующий учет и сообщать об этом в отдел кибербезопасности и информатизации и соответствующие компетентные органы. «Временные меры по управлению услугами генеративного искусственного интеллекта», изданные Администрацией киберпространства Китая и другими ведомствами в июле 2023 года, устанавливают требования как к поставщикам, так и к регулирующим органам. Статья 12 предусматривает, что провайдеры должны маркировать изображения, видео и другой создаваемый контент в соответствии с «Положением об управлении глубоким синтезом информационных услуг Интернета». Статья 14 предусматривает, что если провайдер обнаруживает незаконный контент, он должен незамедлительно принять меры по удалению, такие как прекращение создания, остановки передачи и уничтожение, принять такие меры, как обучение оптимизации модели для внесения исправлений, и сообщить об этом соответствующим компетентным органам. Если провайдер обнаруживает, что пользователь использует сервисы генеративного искусственного интеллекта для участия в незаконной деятельности, он должен принять меры по устранению, такие как предупреждение, ограничение функций, приостановка или прекращение предоставления услуг пользователю в соответствии с законом и договором, сохранить соответствующие записи и сообщить об этом соответствующим компетентным органам. Статья 16 предусматривает, что такие департаменты, как кибербезопасность и информатизация, развитие и реформы, образование, наука и технологии, промышленность и информационные технологии, общественная безопасность, радио и телевидение, пресса и публикации и т. д., должны усилить управление генеративными службами искусственного интеллекта в соответствии со своими обязанностями и законами. В апреле этого года секретариат Центральной комиссии по делам киберпространства издал «Уведомление о проведении специальной акции «Очистка и исправление неограниченного обильного трафика «Самомедиа»», требующее ужесточить маркировку и отображение источников информации. . Если информация генерируется с использованием таких технологий, как искусственный интеллект, она должна быть четко обозначена как созданная с помощью технологии. Любой контент, содержащий вымысел, выводы и т. д., должен быть четко обозначен как вымысел. Возьмем, к примеру, платформу коротких видео Douyin. 10 мая 2023 года Дуин опубликовал «Спецификации платформы и отраслевые инициативы в отношении контента, созданного искусственным интеллектом», в котором говорится, что контент, созданный искусственным интеллектом, трудно идентифицировать, а также приводит к таким проблемам, как ложная информация и нарушение авторских прав. Ссылаясь на законы и постановления, такие как «Правила управления глубоким синтезом информационных услуг Интернета», Дуин предлагает одиннадцать спецификаций платформ и отраслевые инициативы, четвертая из которых требует от издателей заметно отмечать контент, созданный искусственным интеллектом, чтобы помочь другим пользователям. отличать виртуальность от реальности, особенно запутанных сцен. Поэтому контент, предположительно созданный искусственным интеллектом, должен быть четко обозначен. В настоящее время для контента, который подозревается в использовании технологии искусственного интеллекта, Доуин отмечает под работой подсказку «Предположительно, контент создан искусственным интеллектом, пожалуйста, проверьте внимательно». Есть также некоторые платформы, которые явно будут добавлять вымышленные ярлыки к контенту, включающему художественную литературу, интерпретацию и т. д., и принимать такие меры, как «запрет» незаконных аккаунтов. Эксперт, давно уделяющий внимание сфере искусственного интеллекта, рассказал, что исследования по выявлению слухов в коротких видеороликах и картинках начались более десяти лет назад. Нынешняя относительно зрелая технология опирается на поиск и сравнение для скрининга. Поскольку слухи о видео и изображениях часто соединяются с материалами из других времен или других регионов, использование технологий искусственного интеллекта позволяет выявить и решить большую часть проблем. Собирая различные данные, охватывающие различные страны и регионы, и продвигая информацию на несколько лет или даже более десяти лет, после сбора и сохранения достаточного количества данных время от времени можно извлечь большинство слухов для выявления похожих изображений и видео. обнаружены. Эксперт также отметил, что будет сложно выявить слухи, возникшие недавно с использованием технологий искусственного интеллекта. В последние годы, благодаря развитию мультимодальной технологии создания больших моделей, стало легко создавать совершенно новые короткие видеоролики или изображения, а технический способ использования этих материалов для создания слухов изменился. Эти новые технологии могут генерировать информацию, которая никогда не распространялась в Интернете, что значительно затрудняет идентификацию. Предыдущие технологии проверки слухов, основанные на поиске и сравнении, не имели большого эффекта. Поэтому вопрос о том, как идентифицировать ложный контент, создаваемый новыми генеративными моделями, все еще изучается с технической точки зрения. Чжан Ин, специально назначенный эксперт Платформы по опровержению слухов Китайской ассоциации науки и технологий, считает, что перед лицом проблемы слухов, генерируемых искусственным интеллектом, связанных с катастрофами и рисками, улучшение способности общественности выявлять и усиливать стратегию надзора в Интернете Платформы — это два взаимодополняющих аспекта. Чжан Ин предложил сосредоточиться на четырех аспектах работы: во-первых, распространять научно-технический прогресс и давать людям надежду, во-вторых, опровергать слухи и объяснять недоразумения, а также спасать людей от катастрофы, в-третьих, обращать внимание на отсталые районы и уязвимость; в-четвертых, обращайте внимание на общественность. Участвуйте и повышайте у общественности чувство выгоды. Что касается стратегии надзора за онлайн-платформами, Чжан Ин дал следующие предложения: во-первых, объединить интеллектуальную проверку с проверкой вручную. Онлайн-платформы должны внедрять передовые технологии искусственного интеллекта для облегчения проверки контента и повышения эффективности и точности проверки. В то же время создается механизм ручной проверки для проведения вторичной проверки предполагаемых слухов с целью обеспечения справедливости и авторитетности результатов проверки. Второе – создать механизм быстрого реагирования и опровержения слухов. Как только будут обнаружены слухи о катастрофах и рисках, онлайн-платформы должны немедленно активировать механизм быстрого реагирования, быстро удалить содержание слухов и опубликовать опровержение по официальным каналам. В то же время правительственные ведомства, авторитетные СМИ и т. д. создали механизм взаимодействия для совместной борьбы с распространением слухов. В-третьих, необходимо усилить управление и руководство поведением пользователей. Онлайн-платформы должны усилить надзор и управление поведением пользователей, а также наказывать и предупреждать пользователей, злонамеренно распространяющих слухи. В то же время общественности напоминают о необходимости получать информацию через авторитетные каналы, направлять пользователей к рациональному участию в распространении информации посредством всплывающих подсказок, обучения пользователей и т. д., а также совместно поддерживать хорошую сетевую среду. Четвертое — способствовать обмену данными и межплатформенному сотрудничеству. Поощрять создание механизмов обмена данными между различными сетевыми платформами для обеспечения обмена информацией и совместных операций. Благодаря межплатформенному сотрудничеству можно усилить мониторинг общественного мнения, а также более полно оценить динамику распространения и масштабы слухов, что обеспечит мощную поддержку для разработки целенаправленных контрмер. Чжан Ин также дал несколько советов о том, как общественность может выявить слухи об искусственном интеллекте. Во-первых, необходимо усилить образование в области информационной грамотности. Общественность должна получать систематическое образование в области информационной грамотности, научиться определять надежность источников информации и понимать ограничения и потенциальные риски контента, создаваемого ИИ. В обычное время соответствующие отраслевые органы, ведущие средства массовой информации и эксперты по популяризации науки также должны заниматься популяризацией науки и образованием в различных формах. Например, Китайская ассоциация науки и технологий создала платформу для опровержения слухов. популяризация работы и науки в областях, волнующих людей, таких как жизнь и здоровье, продукты питания и лекарства, а также безопасность в чрезвычайных ситуациях, Администрация киберпространства Китая также провела такую ​​работу, как публикация ежегодного списка работ, опровергающих слухи, и добилась хороших результатов. . В то же время соответствующие ведомства должны повысить бдительность общественности и ее способность выявлять слухи посредством анализа случаев, моделирования и т. д. Второй — проверка информации по нескольким каналам. Общественности рекомендуется использовать многоканальный метод проверки, когда она сталкивается с информацией, связанной со стихийным бедствием. Помимо информации, опубликованной официальными СМИ и государственными органами, вы также можете использовать такие ресурсы, как поисковые системы, официальные аккаунты в социальных сетях и сторонние агентства по проверке фактов, чтобы всесторонне определить подлинность информации. Возьмем, к примеру, прогнозирование землетрясений. Краткосрочное прогнозирование по-прежнему остается проблемой в мире. Соответствующие законы и постановления предусматривают, что только правительства на уровне провинций и выше имеют право публиковать соответствующую информацию. В-третьих, развивать критическое мышление. Развивать критическое мышление общественности и учиться самостоятельно анализировать и оценивать информацию. Будьте осторожны с информацией, которая слишком преувеличена, эмоциональна или не имеет конкретных доказательств, не верьте и не распространяйте ее. Что касается землетрясений, то землетрясения не страшны, если укрепления зданий соответствуют нормам или хорошо подготовлены, они, как правило, не вызовут катастрофических последствий, поэтому не стоит слишком бояться. В то же время, что касается методов экстренной эвакуации: не существует универсального метода экстренной эвакуации. Общественность должна мыслить научно и как реагировать на пожары в разных местах и ​​размерах в зависимости от места, времени и людей. Об этом следует подумать и подойти к делу с научной точки зрения.