Zoom собирается запустить долгожданную функцию цифровых аватаров на базе искусственного интеллекта, которая произведет революцию в способах асинхронного общения пользователей. Эта функция позволяет пользователям создавать реалистичные цифровые аватары и генерировать синхронизированный по губам звук с аватаром путем ввода текста, что повышает эффективность общения. Однако появление этой технологии также вызвало обеспокоенность по поводу рисков дипфейков. Редактор Downcodes поможет вам глубже понять эту новую функцию Zoom, проанализировать ее потенциальные риски и меры безопасности, которые Zoom принял для борьбы с этими рисками.
Zoom готовится предоставить своим пользователям потрясающую новую функцию, но нам, возможно, придется подождать до следующего года, чтобы увидеть ее. Гигант видеоконференций объявил на своей ежегодной конференции разработчиков, что запустит функцию, которая преобразует пользовательские видео в реалистичные цифровые аватары на базе искусственного интеллекта.
Этот цифровой аватар включает в себя не только голову, но также плечи и плечи, что делает его цифровым клоном. Пользователи просто вводят то, что они хотят, чтобы их цифровой аватар говорил, и Zoom генерирует звук, синхронизируемый по губам с аватаром. Звучит потрясающе, правда?
Смита Хашим, директор по продуктам Zoom, сказала, что эта функция призвана помочь людям быстрее и эффективнее общаться асинхронно с коллегами. Она подчеркнула, что такого рода аватары могут сэкономить пользователям драгоценное время и энергию, одновременно повышая эффективность создания видео.
Однако появление этой технологии также вызвало некоторые опасения. Нам нужно подумать о том, принесет ли это риск дипфейка?
Фактически, многие компании разработали аналогичную технологию искусственного интеллекта, которая может клонировать лицо человека в цифровом виде и сопоставлять его с довольно естественным синтезированным голосом. Например, Tavus помогает брендам создавать аватары для персонализированной видеорекламы, а Microsoft в прошлом году запустила сервис, позволяющий создавать убедительные цифровые аватары.
Но эти инструменты часто имеют строгую защиту от злоупотреблений. Tavus требует устного заявления о согласии, а Microsoft требует от своих клиентов получения письменного разрешения и согласия от всех задействованных специалистов по созданию аватаров.
По сравнению с этим описание мер безопасности Zoom кажется расплывчатым. Хашим сказал, что компания создает несколько средств защиты для функции настраиваемого аватара, включая расширенную аутентификацию и водяные знаки. Она пообещала продолжить рассмотрение и добавить меры безопасности по мере необходимости в будущем.
Этот шаг Zoom совпадает с грандиозным видением генерального директора Юань Чжэна. В будущем он надеется создать искусственный интеллект, который сможет участвовать в собраниях Zoom, отвечать на электронные письма и даже отвечать на телефонные звонки от вашего имени.
Однако появление этой технологии происходит в то время, когда дипфейки распространяются в социальных сетях со скоростью лесного пожара, из-за чего становится все труднее отличить правду от дезинформации. Видео дипфейков с участием президента Джо Байдена, Тейлор Свифт и вице-президента Камалы Харрис в этом году получили миллионы просмотров и репостов в Интернете. Недавно, после урагана «Хелен», сеть заполонила волна фальшивых изображений, созданных искусственным интеллектом, на которых показаны вымышленные сцены разрушений и человеческих страданий.
Технология Deepfake также использовалась для нападения на отдельных лиц, например, выдававших себя за родственников для совершения мошенничества. По данным Федеральной торговой комиссии, убытки, связанные с мошенничеством с выдачей себя за другое лицо, в прошлом году превысили 1 миллиард долларов.
Так как же именно Zoom не позволяет мошенникам использовать его инструменты для создания вредоносных фейковых видеороликов, неясно. На макете, предоставленном компанией, виден видимый водяной знак в правом верхнем углу видео с персонализированным аватаром. Но этот водяной знак легко обрезается с помощью инструментов записи экрана.
Мы надеемся узнать более подробную информацию, когда Zoom планирует выпустить эту функцию в первой половине 2025 года. На этом этапе пользователям придется платить дополнительно 12 долларов в месяц за использование пользовательских аватаров в Zoom Clips, инструменте асинхронного видео.
Независимо от того, какие меры в конечном итоге примет Zoom, регулирующие органы предпринимают усилия, чтобы попытаться обуздать распространение дипфейков. В отсутствие законов, криминализирующих дипфейки на федеральном уровне, более 10 штатов приняли правила, направленные против выдачи себя за другое лицо с помощью ИИ. Закон Калифорнии, действие которого в настоящее время приостановлено, будет первым, который предоставит судьям право приказать издателям дипфейкового контента удалить контент или столкнуться с возможными штрафами.
Когда Zoom запускает эту новую функцию, мы не можем не задаться вопросом: всегда ли технологический прогресс оказывает положительное влияние, наслаждаясь удобством, случайно ли мы открыли ящик Пандоры?
Хотя функция цифровых аватаров Zoom с искусственным интеллектом является многообещающей, она также таит в себе потенциальные риски. Как найти баланс между технологическим прогрессом и рисками безопасности — это вопрос, который Zoom и вся технологическая индустрия должны серьезно рассмотреть в будущем. Редактор Downcodes продолжит следить за развитием этой технологии и предоставлять вам больше связанных с ней отчетов.