Recientemente, apareció en Reddit una mujer virtual llamada Claudia. Fue generada por la herramienta de inteligencia artificial Stable Diffusion y su realismo es impactante. Muchos usuarios de Reddit incluso pagaron por sus fotos de desnudos generadas por IA, lo que generó una preocupación generalizada. El editor de Downcodes le explicará toda la historia de este incidente, así como el estado de desarrollo actual y los riesgos potenciales de la tecnología de IA que refleja.
Según se informa, los usuarios de Reddit han estado pagando por fotografías falsas de desnudos de una mujer generadas por IA.
Creadas por la herramienta de inteligencia artificial Stable Diffusion, las fotos parecen tan realistas que es difícil distinguirlas. Las imágenes aparecieron por primera vez en varios foros de Reddit hace unos meses, atrayendo la atención y los comentarios de muchos usuarios.
Hermosas fotos generadas por Stable Diffusion
Un usuario incluso comentó después de ver la foto de Claudia: "¡Eres tan hermosa!". Otro dijo: "¡Guau, eres tan hermosa!".
Aunque algunos usuarios comenzaron a dudar de la autenticidad de estas fotografías y pensaron que parecían demasiado procesadas, todavía había muchas personas que estaban obsesionadas con el encanto de esta "belleza".
Un usuario informado recordó a todos en los comentarios: "Tengo que arruinar tu fantasía, esto en realidad fue creado por IA. Si has jugado con modelos de imágenes de IA, lo verás de un vistazo".
Según los creadores de Claudia, ganaron alrededor de 100 dólares con la venta de las fotos de desnudos. De hecho, el propósito original de esta cuenta era probar si las imágenes de IA podían engañar con éxito a los usuarios.
Dijeron: "Puedes pensar en esto como el concepto de presentadores virtuales. Creamos nuestros propios personajes y actuamos con una identidad completamente diferente. No esperaba que atrajera tanta atención".
Los investigadores de IA señalaron que la foto de Claudia tiene algunas características obvias generadas por IA, como detalles extraños en el fondo y imperfecciones en las manos. La aparición de estas imágenes marca el último avance en la tecnología de modelado de difusión de inteligencia artificial, que puede generar imágenes de personas completamente nuevas y realistas.
Cabe señalar que Claudia apareció por primera vez en el subreddit r/amIhot. Posteriormente, para evitar que ocurrieran incidentes similares, el subreddit comenzó a exigir a los usuarios que proporcionaran de 10 a 15 segundos de video para verificar su identidad.
Destacar:
?La tecnología de inteligencia artificial ha convertido a la modelo virtual “Claudia” en un tema candente en Reddit.
?El creador ha ganado aproximadamente 100 dólares vendiendo fotos de Claudia desnuda.
Reddit subreddit r/amIhot introdujo medidas de autenticación para evitar engañar a los usuarios.
El incidente de Claudia no sólo demostró el progreso de la tecnología de generación de imágenes de IA, sino que también expuso sus posibles problemas éticos y de seguridad. Cómo identificar imágenes generadas por IA y cómo regular la aplicación de la tecnología de IA en las redes sociales son cuestiones que merecen nuestra consideración. Este incidente también nos recuerda que, si bien disfrutamos de las comodidades que brinda el progreso tecnológico, debemos permanecer atentos y considerar el desarrollo de la tecnología de inteligencia artificial de manera racional.