Un informe reciente reveló serios problemas ocultos en los generadores de imágenes de IA: se utilizaron miles de fotografías obscenas de niños para entrenar modelos, lo que permitió al sistema de IA generar imágenes realistas de pornografía infantil falsas e incluso convertir fotos de adolescentes reales en imágenes de desnudos. Esto ha provocado preocupaciones generalizadas sobre los riesgos potenciales de la tecnología de generación de imágenes de IA y también ha puesto de relieve la urgencia de las cuestiones éticas y de seguridad técnica. El informe insta encarecidamente a las empresas pertinentes a tomar medidas proactivas para resolver las vulnerabilidades técnicas y evitar que este tipo de incidentes vuelvan a ocurrir.
Miles de fotografías obscenas de niños estaban escondidas en la base de un generador de imágenes de IA, según un nuevo informe, que insta a las empresas a tomar medidas para abordar las fallas de la tecnología. Estas imágenes facilitan que los sistemas de inteligencia artificial generen imágenes falsas y realistas de niños y conviertan fotos de adolescentes reales y completamente vestidos en las redes sociales en fotos de desnudos. No existe una solución fácil para este problema y requerirá que las empresas tomen medidas para abordar las vulnerabilidades de la tecnología. Según el informe, esto generó preocupaciones sobre los riesgos potenciales en los generadores de imágenes de IA.
La tecnología de generación de imágenes mediante IA se está desarrollando rápidamente, pero también conlleva enormes riesgos. La publicación de este informe nos recuerda que debemos prestar atención a las cuestiones de ética y seguridad mientras desarrollamos tecnología, explorar activamente la supervisión y las soluciones efectivas y construir conjuntamente un entorno de aplicaciones de IA seguro y confiable. Sólo así podremos garantizar que la tecnología de IA beneficie a la humanidad en lugar de causar daño.