Récemment, une nouvelle concernant de fausses photos générées par l'IA qui ont réussi à tromper les systèmes d'authentification par nom réel tels que les banques a déclenché des discussions animées sur les réseaux sociaux, avec des vues dépassant les 4 millions. La nouvelle a révélé les risques potentiels de la technologie de l’intelligence artificielle dans le domaine de la contrefaçon profonde et a également soulevé des inquiétudes quant à la sécurité de l’intelligence artificielle. Cet incident met une fois de plus en évidence l'effet d'épée à double tranchant provoqué par le développement de la technologie de l'IA. D'une part, elle peut apporter de la commodité, mais d'autre part, elle peut également être utilisée pour des activités illégales. Cet article détaillera l'incident et les détails techniques.
Selon des sources, quelqu'un a réussi à tromper les systèmes d'authentification par nom réel tels que les banques en utilisant des photos générées par SD. Le tweet a suscité de vives discussions sur les réseaux sociaux et a été vu plus de 4 millions de fois. L'auteur original a combiné deux modèles Lora et mené des expériences pour obtenir une cohérence et des effets esthétiques. L'article présente également le processus spécifique de génération de photos, y compris des étapes telles que l'affinement des visages, l'ajout de texte et les superpositions d'images. Cette nouvelle a une fois de plus déclenché des discussions et des inquiétudes concernant la technologie de l’intelligence artificielle.Cet incident nous rappelle que nous devons renforcer la supervision de la technologie de l'intelligence artificielle et développer activement des technologies pour lutter contre la contrefaçon profonde afin d'assurer la sécurité des informations personnelles et la stabilité sociale. Le progrès technologique doit toujours s’appuyer sur la responsabilité sociale. Ce n’est qu’ainsi que le rôle positif de l’intelligence artificielle pourra être mieux exploité.