Récemment, une femme virtuelle nommée Claudia est apparue sur Reddit. Elle a été générée par l'outil d'IA Stable Diffusion et son réalisme est choquant. De nombreux utilisateurs de Reddit ont même payé pour leurs photos de nus générées par l’IA, suscitant une inquiétude généralisée. L'éditeur de Downcodes vous fera découvrir toute l'histoire de cet incident, ainsi que l'état actuel du développement et les risques potentiels de la technologie d'IA qu'il reflète.
Les utilisateurs de Reddit auraient payé pour de fausses photos nues d'une femme générées par l'IA.
Créées par l'outil d'intelligence artificielle Stable Diffusion, les photos semblent si réalistes qu'il est difficile de les distinguer. Les images sont apparues pour la première fois sur plusieurs forums Reddit il y a quelques mois, attirant l'attention et les commentaires de nombreux utilisateurs.
De belles photos générées par Stable Diffusion
Un utilisateur a même commenté après avoir vu la photo de Claudia : "Tu es si belle !" Un autre a dit : "Wow, tu es si belle !"
Bien que certains utilisateurs aient commencé à douter de l'authenticité de ces photos et à penser qu'elles avaient l'air trop retouchées, de nombreuses personnes étaient encore obsédées par le charme de cette "beauté".
Un utilisateur averti a rappelé à tout le monde dans les commentaires : "Je dois ruiner votre fantasme, celui-ci est en fait créé par l'IA. Si vous avez joué avec des modèles d'images IA, vous le verrez d'un coup d'œil."
Selon les créateurs de Claudia, ils ont gagné environ 100 $ en vendant les photos de nu. En fait, l’objectif initial de ce compte était de tester si les images de l’IA pouvaient réussir à tromper les utilisateurs.
Ils ont déclaré : "Vous pouvez considérer cela comme le concept d'ancres virtuelles. Nous créons nos propres personnages et jouons sous une toute autre identité. Je ne m'attendais pas à ce que cela attire autant d'attention."
Les chercheurs en IA ont souligné que la photo de Claudia présente des caractéristiques évidentes générées par l'IA, telles que des détails étranges en arrière-plan et des imperfections sur les mains. L’émergence de ces images marque le dernier développement de la technologie de modélisation de diffusion de l’intelligence artificielle, capable de générer des images complètement nouvelles et réalistes de personnes.
Il convient de noter que Claudia est apparue pour la première fois dans le subreddit r/amIhot. Plus tard, afin d'éviter que des incidents similaires ne se produisent, le subreddit a commencé à exiger que les utilisateurs fournissent 10 à 15 secondes de vidéo pour vérifier leur identité.
Souligner:
« La technologie IA a fait du modèle virtuel « Claudia » un sujet brûlant sur Reddit.
« Le créateur a gagné environ 100 $ en vendant des photos nues de Claudia.
Le subreddit r/amIhot de Reddit a introduit des mesures d'authentification pour éviter d'induire les utilisateurs en erreur.
L’incident de Claudia a non seulement démontré les progrès de la technologie de génération d’images IA, mais a également révélé ses potentiels problèmes d’éthique et de sécurité. Comment identifier les images générées par l’IA et comment réglementer l’application de la technologie de l’IA sur les réseaux sociaux sont des questions qui méritent notre attention. Cet incident nous rappelle également que tout en profitant de la commodité apportée par le progrès technologique, nous devons rester vigilants et envisager le développement de la technologie de l’IA de manière rationnelle.