Microsoft lanzó recientemente un libro blanco, advirtiendo que las aplicaciones maliciosas de IA generativa se están volviendo cada vez más desenfrenadas, cubriendo múltiples campos como fraude, abuso sexual infantil, manipulación electoral y fuga de imagen involuntaria. El informe no solo señala desafíos técnicos, sino que también enfatiza las serias amenazas que plantea para la sociedad, y propone una solución práctica para los responsables políticos británicos, con el objetivo de usar la cooperación legal, técnica y social y otros medios. problema. El Libro Blanco elabora varios métodos para usar la tecnología de IA para cometer delitos, y propone la importancia de fortalecer la legislación, promover la innovación tecnológica y mejorar la conciencia pública.
Microsoft lanzó recientemente un libro blanco que analiza profundamente el uso malicioso de la inteligencia artificial generativa (IA), que incluye fraude, materiales de abuso sexual infantil, manipulación de elecciones e imágenes privadas involuntarias. La compañía enfatizó que estos problemas no son solo desafíos técnicos, sino también una gran amenaza para la sociedad.
Según el libro blanco de Microsoft, los delincuentes están utilizando cada vez más el poder de la IA generativa para cometer malas acciones. Estos comportamientos viciosos incluyen el uso de información falsa generada por AI para cometer fraude, crear materiales de abuso sexual infantil, manipulación electoral a través de técnicas de falsificación profundas y crear imágenes íntimas involuntarias que se dirigen especialmente a las mujeres. "Nunca podemos olvidar que el abuso de IA tiene un profundo impacto en las personas reales", dijo Hugh Millward, vicepresidente de asuntos externos de Microsoft.
El Libro Blanco se dirige específicamente a los formuladores de políticas en el Reino Unido y propone un conjunto integral de soluciones basadas en seis elementos centrales para abordar los problemas anteriores. Estos seis elementos incluyen: una fuerte arquitectura de seguridad, una fuente permanente de herramientas de medios y marcas de agua, leyes modernas para proteger al público, una fuerte colaboración entre la industria y el gobierno y la sociedad civil, la protección del abuso de los servicios y la educación pública.
En una recomendación específica para los encargados de formular políticas del Reino Unido, Microsoft pide a los proveedores de sistemas de inteligencia artificial para informar a los usuarios que el contenido es generado por IA cuando interactúan con los sistemas de IA. Además, Microsoft recomienda implementar herramientas de marcado de origen avanzado para marcar el contenido sintético, y el gobierno debería dar un ejemplo al verificar la autenticidad de su contenido de medios. Microsoft también enfatizó la necesidad de nuevas leyes para prohibir el fraude a través de las herramientas de IA para proteger la equidad de las elecciones. Al mismo tiempo, el marco legal para proteger a los niños y mujeres de la explotación en línea también debe fortalecerse, incluida la criminalización de la producción de falsificación sexual profunda.
Microsoft también señaló que es importante almacenar tecnologías de metadatos que indicen si la IA generan medios. Proyectos similares han sido impulsados por compañías como Adobe, cuyo objetivo es ayudar a las personas a identificar la fuente de imágenes. Sin embargo, Microsoft cree que los estándares como "cupones de contenido" requieren medidas de política y conciencia pública para trabajar.
Además, Microsoft se ha asociado con organizaciones como stopncii.org para desarrollar herramientas para detectar y eliminar imágenes abusadas. Las víctimas pueden defender sus derechos a través del portal de informes centrales de Microsoft. El servicio "Take It Down" proporcionado por el Centro Nacional para niños desaparecidos y explotados también brinda apoyo adicional. "El problema del abuso de IA puede ser a largo plazo, por lo que necesitamos redoblar nuestros esfuerzos para colaborar creativamente con compañías tecnológicas, socios filantrópicos, sociedad civil y gobierno para abordar este problema. No podemos luchar solos", dijo Millward.
Puntos clave:
Microsoft ha lanzado un libro blanco que revela las muchas formas en que la IA generativa se usa maliciosamente, incluidas las estafas y la manipulación electoral.
En respuesta a los formuladores de políticas británicas, Microsoft ha propuesto soluciones a seis elementos principales, pidiendo una protección integral de la ley y la tecnología.
Enfatizando la importancia de trabajar con todas las partes, Microsoft pide un esfuerzo conjunto para abordar los desafíos planteados por el abuso de IA.
En resumen, el documento blanco de Microsoft proporciona una referencia importante para responder a aplicaciones maliciosas de IA generativa, enfatiza el papel integral de la tecnología, la ley y la cooperación social, y hace un llamado a los esfuerzos conjuntos globales para prevenir el abuso de la tecnología de IA y mantener la seguridad social y la estabilidad. .