NVIDIA ha lanzado recientemente tres nuevos microservicios NIM (microservicios infrásticos de NVIDIA) como la expansión del paquete de herramientas de código abierto NEMO BuardRails, cuyo objetivo es mejorar las capacidades de protección de seguridad de las aplicaciones proxy de IA empresariales. Estos tres servicios se centran en la seguridad de contenido, los límites del tema del diálogo y la prevención del poder de la IA se jailbreak, lo que compensan efectivamente las vulnerabilidades que pueden existir en estrategias de seguridad globales y proporcionan el despliegue corporativo de agentes de IA para proporcionar garantías de seguridad más refinadas. Estos modelos livianos son como barandillas de seguridad, que son particularmente importantes en el contexto de las aplicaciones de IA.
NVIDIA lanzó recientemente tres nuevos microservicios NIM (microservicios infrásticos de NVIDIA) como la expansión del paquete de herramientas de código abierto NEMO GuardRails, cuyo objetivo es proporcionar más capacidades de control de seguridad para aplicaciones proxy de IA empresariales.
Estos tres nuevos servicios tienen sus propias características: primero, para evitar que la IA genere contenido dañino o de prejuicio; Rompiendo las restricciones del sistema o el jailbreak. A través del despliegue de estos modelos especiales livianos como una barandilla de seguridad, los desarrolladores pueden compensar las lagunas de protección posiblemente en las políticas globales.
Esto refleja los desafíos reales durante el proceso de aterrizaje de IA. Aunque el CEO de Salesforce, Mark Beniov, ha predicho que su plataforma tendrá más de mil millones de agentes de IA en el próximo año, la última investigación sobre Deloitte muestra que las empresas usan de manera más cautelosa: se espera que solo el 25%de las empresas en 2025 usen proxies de IA , para 2027, para 2027 esta proporción aumentará al 50%.
Estos datos muestran que las empresas son cautelosas sobre la tecnología de la agencia de IA y son significativamente más lentos que el ritmo de la innovación tecnológica. Los servicios de seguridad liberados por NVIDIA están destinados a reducir las preocupaciones de las empresas que utilizan agentes de IA fortaleciendo la seguridad y la capacidad de control.
Sin embargo, si estas nuevas herramientas pueden acelerar de manera efectiva la implementación del proceso de aterrizaje de IA todavía necesita tiempo para verificar.
El movimiento de Nvidia tiene como objetivo resolver las preocupaciones de la compañía sobre la seguridad de la agencia de IA, mejorar la credibilidad de las aplicaciones de IA y, por lo tanto, promover la aplicación generalizada de la tecnología de IA en el campo empresarial. Sin embargo, es necesario promover con éxito la implementación de la IA en el caso de una empresa al final, y se necesitan más inspecciones prácticas y continúa prestando atención a los comentarios del mercado.