Быстрое развитие технологий искусственного интеллекта принесло много удобств, но оно также повлекло за собой некоторые негативные последствия. Использование искусственного интеллекта для синтеза ложных видеороликов и распространения ложной информации растет, что серьезно нарушает социальный порядок и ставит под угрозу социальные и общественные интересы. В этой статье будет описан случай использования ИИ для синтеза видео для распространения слухов, а также предупреждение всем о необходимости правильного использования технологии ИИ во избежание нарушения закона.
В настоящее время нет ничего удивительного в том, что ИИ генерирует ложный контент. Однако мужчина действительно использовал технологию ИИ для синтеза видео и был пойман за публикацию ложной информации. Это также призывает всех использовать инструменты ИИ с осторожностью, чтобы избежать неблагоприятных последствий.
По имеющимся данным, в июне этого года полиция Сямыня получила сообщение о том, что сегодня кто-то разместил на Toutiao видео, в котором рассказывалось о том, как 70-летний мужчина был избит в провинции Гуандун. Его внук покончил жизнь самоубийством, прыгнув в воду. река, и избивший был приговорен. Как только это видео было опубликовано, оно сразу же привлекло всеобщее внимание.
Однако после полицейского расследования выяснилось, что это был сплошной слух, а владелец аккаунта «Xiaoyi Kanshishi», разместившего видео, Рен (32 года, из провинции Хубэй) также был арестован полицией вечером. от 13 июня.
Рен объяснил, что он использовал технологию искусственного интеллекта для синтеза видео всего за две-три минуты. Сначала он нашел несколько привлекательных заголовков в Интернете, затем использовал приложение для письма для автоматического создания ложного контента, затем автоматически создал изображения на основе контента и, наконец, объединил их в видео и опубликовал на социальных платформах.
Его цель — привлечь трафик, увеличить количество поклонников и заработать деньги на трафике видео. Теперь полиция Сямыня применила к Рену уголовные принудительные меры по подозрению в завязывании ссор и провоцировании беспорядков.
Этот инцидент еще раз напоминает нам, что технология искусственного интеллекта — это палка о двух концах. Пользуясь ее удобством, мы всегда должны сохранять бдительность и использовать ее рационально, чтобы не нести соответствующую юридическую ответственность за незаконные и преступные действия. Я надеюсь, что каждый сможет правильно понять и использовать технологию искусственного интеллекта, а также совместно поддерживать хорошую сетевую среду.