Recientemente, una noticia sobre fotografías falsas generadas por IA que engañaron con éxito a los sistemas de autenticación de nombres reales, como los bancos, ha provocado acalorados debates en las redes sociales, con visitas que superan los 4 millones. La noticia reveló los riesgos potenciales de la tecnología de inteligencia artificial en el campo de la falsificación profunda y también generó preocupaciones sobre la seguridad de la inteligencia artificial. Este incidente resalta una vez más el efecto de espada de doble filo provocado por el desarrollo de la tecnología de inteligencia artificial. Por un lado, puede brindar comodidad, pero por otro, también puede usarse para actividades ilegales. Este artículo detallará el incidente y los detalles técnicos.
Las fuentes dicen que alguien ha engañado con éxito a los sistemas de autenticación de nombres reales, como los bancos, mediante el uso de fotografías generadas por SD. El tweet desató una acalorada discusión en las redes sociales y ha sido visto más de 4 millones de veces. El autor original combinó dos modelos de Lora y realizó experimentos para lograr consistencia y efectos estéticos. El artículo también presenta el proceso específico de generación de fotografías, incluidos pasos como refinar rostros, agregar texto y superposiciones de imágenes. Esta noticia volvió a desencadenar discusiones y preocupaciones sobre la tecnología de inteligencia artificial.Este incidente nos recuerda que debemos fortalecer la supervisión de la tecnología de inteligencia artificial y desarrollar activamente tecnología para combatir la falsificación profunda para garantizar la seguridad de la información personal y la estabilidad social. El progreso tecnológico siempre debe basarse en la responsabilidad social. Sólo así se podrá aprovechar mejor el papel positivo de la inteligencia artificial.