A NVIDIA lançou recentemente três novos microsserviços NIM (NVIDIA Infrastic Microservices) como a expansão do pacote de ferramentas de código aberto Nemo Guardrails, que visa aprimorar os recursos de proteção de segurança dos aplicativos de procuração da AI Enterprise. Esses três serviços se concentram na segurança do conteúdo, nos limites do tema do diálogo e na prevenção de proxy da IA do jailbreak, que efetivamente compensam as vulnerabilidades que podem existir nas estratégias de segurança globais e fornecem a implantação corporativa de agentes de IA para fornecer garantias de segurança mais refinadas. Esses modelos leves são como o segurança de segurança, que são particularmente importantes no contexto dos aplicativos de IA.
A NVIDIA lançou recentemente três novos microsserviços NIM (NVIDIA Infase Microservices) como a expansão do pacote de ferramentas de código aberto Nemo Guardrails, que visa fornecer mais recursos de controle de segurança para aplicativos de proxy da AI corporativa.
Esses três novos serviços têm suas próprias características: primeiro, para impedir que a IA gera conteúdo prejudicial ou preconceito; quebrando as restrições do sistema ou o jailbreak. Através da implantação desses modelos especiais leves como um corrimão de segurança, os desenvolvedores podem compensar as brechas possivelmente de proteção nas políticas globais.
Isso reflete os desafios reais durante o processo de aterrissagem da IA. Embora o CEO da Salesforce, Mark Beniov, tenha previsto que sua plataforma terá mais de 1 bilhão de agentes de IA no próximo ano, as pesquisas mais recentes sobre a Deloitte mostram que as empresas usam mais cautelosamente: espera -se que apenas 25%das empresas em 2025 usem proxies de IA , em 2027, até 2027, essa proporção aumentará para 50%.
Esses dados mostram que as empresas são cautelosas sobre a tecnologia da agência de IA e são significativamente mais lentas que o ritmo da inovação tecnológica. Os serviços de segurança divulgados pela NVIDIA têm como objetivo reduzir as preocupações das empresas usando agentes de IA, fortalecendo a segurança e a controlabilidade.
No entanto, se essas novas ferramentas podem acelerar efetivamente a implementação do processo de aterrissagem da IA ainda precisam de tempo para verificar.
A decisão da NVIDIA visa resolver as preocupações da empresa sobre a segurança da agência de IA, aprimorar a credibilidade dos aplicativos de IA e, assim, promover a aplicação generalizada da tecnologia de IA no campo corporativo. No entanto, é necessário promover com sucesso a implementação da IA no evento de uma empresa no final, e são necessárias inspeções mais práticas e continuaram a prestar atenção ao feedback do mercado.