Meta anunció recientemente que abrirá la serie Llama de modelos de inteligencia artificial a agencias gubernamentales de EE. UU. y contratistas relacionados para aplicaciones de seguridad nacional. La medida tenía como objetivo responder a las preocupaciones de que su inteligencia artificial "abierta" pudiera ser explotada por adversarios extranjeros y demostrar el apoyo de Meta a la seguridad nacional. El editor de Downcodes ofrecerá una interpretación detallada de este incidente, analizando las motivaciones detrás del mismo, el impacto potencial y el debate resultante sobre la seguridad de la inteligencia artificial.
Meta Corporation anunció recientemente que abrirá su serie Llama de modelos de inteligencia artificial a agencias gubernamentales de EE. UU. y contratistas relacionados para respaldar aplicaciones de seguridad nacional.
La medida tiene como objetivo disipar la percepción de que su IA “abierta” podría empoderar a adversarios extranjeros. "Nos complace confirmar que Llama estará disponible para las agencias gubernamentales de Estados Unidos, incluidas aquellas centradas en programas de defensa y seguridad nacional, así como para los socios del sector privado que apoyan estos esfuerzos", dijo Meta en una publicación de blog.
Para promover este proyecto, Meta se ha asociado con varias empresas reconocidas, incluidas Accenture, Amazon Web Services, Andiel, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI y Snowflake. . Estas empresas ayudarán a aplicar el modelo Llama a una variedad de misiones de seguridad nacional.
Por ejemplo, Oracle está utilizando Llama para procesar la documentación de mantenimiento de aeronaves y Scale AI está ajustando Llama para tareas específicas de seguridad nacional. Lockheed Martin planea proporcionar Llama a sus clientes de defensa para ayudarlos a generar códigos informáticos, etc.
En general, la política de Meta prohíbe a los desarrolladores utilizar Llama para proyectos militares, bélicos o relacionados con el espionaje. Sin embargo, en este caso, Meta decidió hacer una excepción y permitir que agencias y contratistas relacionados con el gobierno de Estados Unidos utilicen Llama, además de agencias similares en el Reino Unido, Canadá, Australia y Nueva Zelanda.
Vale la pena señalar que ha habido informes recientes de que algunos investigadores asociados con el Ejército Popular de Liberación de China han utilizado una versión antigua del modelo Llama (Llama2) para desarrollar un chatbot centrado en el ejército diseñado para recopilar y procesar inteligencia para proporcionar decisiones operativas. haciendo información. Meta respondió que el uso del modelo fue "no autorizado" y violó la política de uso aceptable de la empresa. Sin embargo, el incidente ha provocado aún más un debate generalizado sobre los pros y los contras de la inteligencia artificial abierta.
Con la aplicación de la inteligencia artificial a la inteligencia militar, la vigilancia y el reconocimiento, los riesgos de seguridad relacionados han ido apareciendo gradualmente. Un estudio del AI Now Institute muestra que los sistemas de inteligencia artificial existentes dependen de datos personales que los adversarios pueden extraer y utilizar como armas. Al mismo tiempo, los sistemas de inteligencia artificial también tienen problemas como sesgos e ilusiones, y actualmente no existe una solución eficaz. Los investigadores recomiendan desarrollar sistemas de IA dedicados que estén aislados de los modelos "comerciales".
Aunque Meta afirma que la IA abierta puede acelerar la investigación de defensa y promover los intereses económicos y de seguridad de Estados Unidos, el ejército estadounidense sigue siendo cauteloso respecto de la adopción de esta tecnología. Hasta ahora, sólo el Ejército ha desplegado inteligencia artificial generativa.
La medida de Meta ha desencadenado debates generalizados sobre las cuestiones éticas y de seguridad de las aplicaciones de inteligencia artificial en el campo de la defensa, y su impacto a largo plazo aún está por verse. El editor de Downcodes continuará prestando atención a los últimos desarrollos en este campo y brindará análisis e informes más profundos a los lectores.