Recentemente, uma notícia sobre fotos falsas geradas por IA que enganaram com sucesso sistemas de autenticação de nomes reais, como bancos, gerou discussões acaloradas nas redes sociais, com visualizações superiores a 4 milhões. A notícia revelou os riscos potenciais da tecnologia de inteligência artificial no domínio da falsificação profunda e também levantou preocupações sobre a segurança da inteligência artificial. Este incidente destaca mais uma vez o efeito de faca de dois gumes provocado pelo desenvolvimento da tecnologia de IA. Por um lado, pode trazer conveniência, mas por outro lado, também pode ser utilizado para atividades ilegais. Este artigo detalhará o incidente e detalhes técnicos.
Fontes dizem que alguém enganou com sucesso sistemas de autenticação de nomes reais, como bancos, usando fotos geradas por SD. O tweet gerou uma discussão acalorada nas redes sociais e foi visto mais de 4 milhões de vezes. O autor original combinou dois modelos Lora e conduziu experimentos para obter consistência e efeitos estéticos. O artigo também apresenta o processo específico de geração de fotos, incluindo etapas como refinar rostos, adicionar texto e sobreposições de imagens. Esta notícia mais uma vez desencadeou discussões e preocupações sobre a tecnologia de inteligência artificial.Este incidente lembra-nos que precisamos de reforçar a supervisão da tecnologia de inteligência artificial e desenvolver activamente tecnologia para combater a falsificação profunda, a fim de garantir a segurança das informações pessoais e a estabilidade social. O progresso tecnológico deve basear-se sempre na responsabilidade social. Só assim o papel positivo da inteligência artificial poderá ser melhor utilizado.