В этой статье анализируется недавний отчет, опубликованный Meta, в котором оценивается влияние генеративного искусственного интеллекта на выборы во многих странах и регионах по всему миру. В отчете делается вывод, что, хотя есть некоторые случаи использования искусственного интеллекта для политической пропаганды или распространения ложной информации, степень его воздействия намного ниже, чем ожидалось, а существующие политики и меры Меты достаточны для решения этой проблемы. В отчете подробно описаны меры реагирования, принятые Meta, и анализируется распространение ложной информации на других платформах.
В начале года были широко распространены опасения по поводу того, как генеративный ИИ может вмешиваться в глобальные выборы и распространять пропаганду и дезинформацию. Однако недавний отчет Meta показал, что эти опасения не были реализованы на ее платформе. Мета заявил, что на социальных платформах, таких как Facebook, Instagram и Threads, генеративный искусственный интеллект оказывает крайне ограниченное влияние на информацию, связанную с выборами.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и разрешено поставщиком услуг Midjourney.
Согласно исследованию Меты, отчет охватывает крупные выборы во многих странах и регионах, включая США, Бангладеш, Индонезию, Индию, Пакистан, Европейский парламент, Францию, Великобританию, Южную Африку, Мексику и Бразилию. Мета отметила, что, хотя действительно были некоторые подтвержденные или предполагаемые случаи использования искусственного интеллекта во время выборов, общее количество все еще было низким, а существующие политики и процессы были достаточными для смягчения рисков, связанных с генеративным контентом ИИ. В отчете показано, что в течение вышеупомянутого периода выборов контент ИИ, связанный с выборами, политикой и социальными темами, составлял менее 1% проверенной ложной информации.
Чтобы предотвратить дипфейковые изображения, связанные с выборами, генератор изображений Imagine AI компании Meta отклонил почти 590 000 созданных изображений с участием Трампа, вице-президента Харриса, губернатора Уолца и президента Байдена за месяц, предшествовавший запросу на день выборов. Кроме того, Meta обнаружила, что онлайн-аккаунты, пытающиеся распространять пропаганду или дезинформацию, при использовании генеративного ИИ приносят лишь незначительный прирост производительности и генерации контента.
Мета подчеркнула, что использование ИИ не мешает ей бороться с этой скрытой деятельностью по влиянию, поскольку компания фокусируется на поведении этих учетных записей, а не на контенте, который они публикуют, независимо от того, создан ли этот контент ИИ или нет. Кроме того, Meta также объявила, что прекратила около 20 новых тайных операций влияния по всему миру, чтобы предотвратить иностранное вмешательство. Большинство этих целевых сетей не имеют реальной аудитории, а некоторые даже ложно демонстрируют свою популярность с помощью фальшивых лайков и подписчиков.
Мета также обвинила другие платформы, заявив, что фальшивые видеоролики, связанные с выборами в США, часто появляются на таких платформах, как X. Meta заявила, что продолжит пересматривать свою политику, подведя итоги уроков, извлеченных в течение года, и объявит о любых изменениях в ближайшие месяцы.
В целом, отчет Меты предоставляет ценные справочные данные о влиянии генеративного искусственного интеллекта на выборы, и его положительные меры реагирования также заслуживают изучения. Однако постоянный мониторинг и совершенствование по-прежнему необходимы для решения проблем, которые могут возникнуть в будущем. Технологический прогресс необходимо координировать с соответствующими стратегиями надзора и реагирования, чтобы лучше поддерживать работоспособность и стабильность сетевой среды.