Недавно новость о фальшивых фотографиях, созданных искусственным интеллектом, который успешно обманывал системы аутентификации по реальному имени, такие как банки, вызвала бурные дискуссии в социальных сетях, число просмотров превысило 4 миллиона. Эта новость выявила потенциальные риски технологии искусственного интеллекта в области глубокой подделки, а также вызвала обеспокоенность по поводу безопасности искусственного интеллекта. Этот инцидент еще раз подчеркивает эффект палки о двух концах, вызванный развитием технологий искусственного интеллекта. С одной стороны, это может принести удобство, но с другой стороны, его также можно использовать для незаконной деятельности. В этой статье подробно описан инцидент и технические подробности.
Источники сообщают, что кто-то успешно обманул системы аутентификации по реальному имени, такие как банки, используя фотографии, созданные SD. Твит вызвал бурную дискуссию в социальных сетях и был просмотрен более 4 миллионов раз. Оригинальный автор объединил две модели Лоры и провел эксперименты для достижения последовательности и эстетического эффекта. В статье также описывается конкретный процесс создания фотографий, включая такие этапы, как уточнение лиц, добавление текста и наложение изображений. Эта новость в очередной раз вызвала дискуссии и опасения по поводу технологии искусственного интеллекта.Этот инцидент напоминает нам о том, что нам необходимо усилить надзор за технологиями искусственного интеллекта и активно развивать технологии борьбы с глубокой подделкой, чтобы обеспечить безопасность личной информации и социальную стабильность. Технологический прогресс всегда должен основываться на социальной ответственности. Только таким образом можно лучше использовать положительную роль искусственного интеллекта.