Недавно компания Shenzhen Reecho Technology Co., Ltd. выступила с заявлением в ответ на инцидент, согласно которому ее независимо разработанная платформа Reecho для дублирования крупных моделей с использованием искусственного интеллекта использовалась для создания фальшивого аудио и видео. В этом инциденте подозреваемый использовал Reecho, чтобы клонировать голос жертвы Лу и распространить ложную информацию. Редактор Downcodes предоставит вам подробное объяснение инцидента и соответствующие ответы.
Компания Shenzhen Reecho Technology Co., Ltd. недавно опубликовала заявление, подтверждающее, что аудиочасть аудио- и видеоматериалов, распространенных 16 сентября, была клонирована подозреваемым с использованием независимо разработанной платформы Reecho AI для дублирования крупных моделей. Звук взят из клипа Лу в прямом эфире.
Компания запустила механизм внутреннего аудита для усиления контроля безопасности аутентификации личности пользователя и генерации звука, чтобы обеспечить законное и соответствующее требованиям применение технологии.
Ричо Жуйшэн сказал, что Yanyu Technology, будучи стартап-командой, созданной менее года назад, стремится исследовать передовые технологии аудио и антропоморфного искусственного интеллекта. В качестве нашей первой общедоступной технологической платформы для синтеза и дублирования звука с использованием искусственного интеллекта Reecho стремится повысить эффективность и удобство создания творческого контента с помощью передовых технологий, разработанных собственными силами.
В то же время 20 сентября Отдел высоких технологий Муниципального бюро общественной безопасности Хэфэя получил сигнал тревоги и начал расследование фальшивых аудио- и видеоматериалов с участием Лу. После расследования полиция арестовала 25-летнего подозреваемого Вана вечером 22 сентября и установила, что он использовал инструменты искусственного интеллекта для подделки аудио и синтезирования видео для распространения, что вызвало широкое распространение слухов. Ван принял уголовные принудительные меры в соответствии с законом, и дело все еще находится на стадии дальнейшего расследования.
Этот инцидент выявил риски безопасности, существующие в процессе применения технологий искусственного интеллекта, а также напомнил компаниям, занимающимся искусственным интеллектом, о необходимости усилить техническую защиту и этические стандарты. Ответ Ruiyu Technology показывает, что компания знает о проблеме и активно принимает меры для ее решения. Есть надежда, что в будущем технология искусственного интеллекта сможет развиваться в более безопасной и соответствующей требованиям среде и создавать большую ценность для общества.