Хотя искусственный интеллект (ИИ) расширяет границы творчества и повышает эффективность коммуникации, он также порождает скрытые опасения, такие как распространение ложной информации и нарушение прав интеллектуальной собственности, создавая новые проблемы для построения международной коммуникационной экосистемы. Некоторые средства массовой информации и международные организации начали изучать, как применять новые технологии ИИ для борьбы с дезинформацией ИИ, «использовать технологии для борьбы с технологиями и использовать магию для победы над магией».
«Появление ложной информации в войнах не является чем-то новым, но она приобрела беспрецедентную силу в эпоху цифровых технологий». информацию о реальном мире Ба Юхуа, глава отдела коммуникаций региональной делегации Международного комитета Красного Креста в Восточной Азии, выразил обеспокоенность по поводу нанесенного ущерба.
Применение генеративного искусственного интеллекта и технологий больших моделей привело мир в эпоху цифровой информации, где «то, что вы видите, не обязательно верится, а то, что вы слышите, не обязательно может быть правдой». Появление мультимодального ИИ-контента, такого как звуки, видео и изображения, создало растущий туман ложной информации.
«Генераторные технологии искусственного интеллекта повысят риск изощренной дезинформации и дезинформации. В мире с таким большим количеством контента потребность в надежных источниках новостей, надежной проверке фактов и прозрачности будет только расти». Об этом заявили в ходе медиа-саммита.
Институт оценки и исследования достоверности новостей США отслеживает и оценивает способность генеративного ИИ создавать ложную информацию. Отчет, опубликованный агентством в конце прошлого года, показал, что количество веб-сайтов фейковых новостей, созданных с использованием агентов искусственного интеллекта, увеличилось с 49 до более чем 600 за семь месяцев.
Хотя применение ИИ привело к изменениям во всей медиа-экологии, сделав среду распространения информации все более разнообразной и сложной, неизменными остаются миссия и ответственность средств массовой информации — придерживаться фактов и правды.
«Технологии открыли для нас новые возможности, но они также поставили перед нами новые задачи. Искусственный интеллект не только повысит эффективность распространения новостей, но и потребует от нас переосмысления наших этических стандартов, Ковача Тао, генерального директора венгерской медиагруппы ATV». «Я твердо верю, что правда и факты остаются в основе наших средств массовой информации и нашей ответственности в эпоху цифровых технологий», — сказал Марш.
Столкнувшись с новыми особенностями производства и распространения ложной информации в эпоху цифровых технологий, как ужесточить правила и рекомендации по сокращению генерации ложной информации из источника, как эффективно использовать новые технологические средства для обеспечения отслеживаемости и достоверности контента; стали общей проблемой средств массовой информации во многих странах.
На шестом Всемирном медиа-саммите национальный высококлассный аналитический центр информационного агентства Синьхуа опубликовал для всего мира доклад аналитического центра «Ответственность и миссия новостных СМИ в эпоху искусственного интеллекта». Опрос новостных СМИ в 53 странах и регионах мира, проведенный в отчете, показывает, что 85,6% респондентов поддерживают усиление регулирования и управления в той или иной форме в ответ на возможные негативные последствия применения генеративного искусственного интеллекта в медиаиндустрии.
На саммите китайские и иностранные гости вели бурные дискуссии о том, как бороться с распространением ложной информации, вызванной злоупотреблением искусственным интеллектом. «Этот саммит дал глобальным средствам массовой информации возможность повысить достоверность информации в борьбе с дезинформацией, дезинформацией и разжиганием ненависти», — заявил в видеообращении во время саммита Чанг Циде, постоянный координатор системы развития ООН в Китае.
Учреждения ООН и международные СМИ начали ускорять строительство «подлинной» линии обороны. Чан Цидэ сказал, что в этом году Организация Объединенных Наций опубликовала «Принципы глобальной информационной целостности», призывая правительства, технологические компании, рекламодателей, компании по связям с общественностью и средства массовой информации сотрудничать, чтобы совместно построить более этичную информационную экосистему.
Во всем мире такие учреждения, как агентство новостей Синьхуа, агентство Reuters, Британская радиовещательная корпорация и Национальное общественное радио, сформулировали кодексы поведения и руководящие принципы в области ИИ для предотвращения рисков, которые могут нарушить подлинность при применении ИИ в медиаиндустрии.
«Для каждой угрозы, созданной с помощью ИИ, сама технология может предоставить эффективное «противоядие». Президент «Российской газеты» Павел Негоица заявил, что ИИ может обнаруживать «глубокие подделки» и пресекать действия мошенников и т. д.
Столкнувшись с ситуацией, когда общественность легко «верит» контенту, созданному искусственным интеллектом, многие стороны призвали добавлять ярлыки к контенту, созданному искусственным интеллектом, чтобы помочь общественности различать подлинность и ложь. В сентябре этого года Администрация киберпространства Китая публично запросила мнение о «Мерах по маркировке синтетического контента, созданного искусственным интеллектом (проект для комментариев)», заявив, что поставщики сетевых информационных услуг должны маркировать в соответствии с требованиями соответствующих обязательных национальных стандартов. . В 2023 году AFP и крупнейшие европейские медиаорганизации опубликовали заявление о регулировании информации в области ИИ и отраслевых инициативах, требуя от моделей и пользователей генеративного ИИ четко, конкретно и последовательно идентифицировать контент, созданный искусственным интеллектом, содержащийся в их выходном контенте.
Некоторые СМИ начали сотрудничать с технологическими компаниями для создания «брандмауэров подлинности». Британская радиовещательная корпорация и такие американские компании, как Adobe, Google, Intel и Microsoft, совместно создали Альянс по источникам контента и подлинности. Альянс работает над предоставлением этикеток аутентичности контента и систем обслуживания исторической информации для цифровых медиа.
В будущем применение искусственного интеллекта, несомненно, еще больше усложнит информационную среду. СМИ должны придерживаться принципа, что «подлинность – это жизнь новостей», чтобы прояснить для общественности туман ложной информации и создать четкую информацию. среда общественного мнения.