В последнее время технология изменения лица с помощью искусственного интеллекта стала использоваться в прямых трансляциях для продвижения товаров, что привлекло широкое внимание общественности. Аккаунт, имитирующий прямую трансляцию продажи товаров доктора Чжан Вэньхуна, обманул многих людей, особенно зрителей старшего возраста, незнакомых с технологией искусственного интеллекта. После того, как инцидент был раскрыт, Чжан Вэньхун ответил сам и сказал, что он много раз жаловался на платформу. Этот инцидент подчеркивает риски неправильного использования технологий искусственного интеллекта и неспособность общественности распознавать информацию.
Недавно широкое внимание в Интернете привлекло видео, в котором в прямом эфире появился аккаунт, имитирующий Чжан Вэньхуна, продающего протеиновый батончик.
Многие пользователи сети задаются вопросом: «Чжан Вэньхун приносит товары?» Что еще больше беспокоит, так это то, что некоторые пожилые зрители убеждены в этом видео и даже разместили заказы и переслали информацию в социальных группах. После проверки журналистов выяснилось, что Чжан Вэньхун на видео — не реальный человек, а глубокая подделка, синтезированная с помощью технологий искусственного интеллекта.
В ответ Чжан Вэньхун сказал, что таких учетных записей продаж несколько, и они постоянно меняются. Он много раз жаловался на платформу. Это продолжается уже несколько недель, и изначально была подана жалоба. Особенно легко в это поверят некоторые пожилые люди, которые не очень знакомы с ИИ.
С развитием технологий искусственного интеллекта форма прямой трансляции с товарами постоянно меняется. В настоящее время технология искусственного интеллекта может генерировать очень реалистичные лица и голоса, что позволяет некоторым преступникам использовать эти технологии для совершения мошенничества. Недавно голос некоего знаменитого предпринимателя был синтезирован с помощью технологии искусственного интеллекта и распространился в Интернете, что вызвало огромный резонанс. Чжан Вэньхун, которого на этот раз синтезировал искусственный интеллект, во время прямой трансляции действовал очень реалистично. Хотя на техническом уровне все еще были недостатки, он все же обманул многих людей.
Этот инцидент вызвал обеспокоенность общественности по поводу подлинности информации, особенно среди пожилых людей, чья осведомленность о новых технологиях относительно запаздывает и уязвима для обмана. Однако любой, а не только пожилой человек, может подвергнуться риску быть введенным в заблуждение фальсифицированной информацией ИИ. Мы не можем полностью полагаться на индивидуальное суждение при выявлении этой ложной информации, поэтому соответствующие технические меры предосторожности особенно важны.
Во время прямой трансляции аккаунт, имитирующий Чжан Вэньхуна, не указал четко свою личность и транслировался в прямом эфире только в полночь. Эта секретность показывает усилия и эффективность платформы в управлении хаосом ИИ. Хотя развитие технологии искусственного интеллекта принесло нам удобство, оно также поставило перед обществом новые проблемы. Чтобы справиться с увеличением количества подделок, которое может произойти в будущем, необходимо срочно создать более совершенный механизм предотвращения рисков.
Основные моменты:
Синтезированный ИИ Чжан Вэньхун вызвал бурные дискуссии во время прямой трансляции, и некоторые пользователи сети неправильно поняли его личность.
Осведомленность общественности о новых технологиях отстает, и на нее легко влияет ложная информация.
Крайне важно усилить технические меры профилактики и механизмы мониторинга информации, а также улучшить возможности идентификации населения.
Риски, связанные с технологией изменения лица, основанной на искусственном интеллекте, нельзя игнорировать. Платформам необходимо усилить контроль и улучшить возможности общественного распознавания информации, чтобы эффективно решать проблемы, связанные с технологией искусственного интеллекта. Только укрепляя национальное образование в области цифровой грамотности и популяризируя знания о профилактике, мы сможем лучше защитить наши собственные права и интересы и построить более безопасную сетевую среду.