Nvidia近期推出了三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在增强企业AI代理应用的安全防护能力。这三项服务分别聚焦于内容安全、对话主题限定以及防止AI代理越狱，有效弥补了全局安全策略可能存在的漏洞，为企业部署AI代理提供了更精细化的安全保障。这些轻量级模型如同安全护栏，在AI应用日益普及的背景下，显得尤为重要。
Nvidia近日发布三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在为企业AI代理应用提供更精细的安全管控能力。
这三项新服务各具特色:一是针对内容安全，防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏，开发者可以弥补全局政策可能存在的保护漏洞。
此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内将拥有超10亿AI代理，但德勤最新研究显示企业采用进度较为谨慎:预计2025年仅25%的企业会使用AI代理，到2027年这一比例将升至50%。
这一数据表明，企业对AI代理技术持谨慎态度，采用速度明显慢于技术创新节奏。Nvidia此次发布的安全服务，意在通过加强安全性和可控性，降低企业采用AI代理的顾虑。
不过，这些新工具能否有效加速企业AI落地进程，仍有待时间验证。
Nvidia此举旨在解决企业对AI代理安全性的担忧，提升AI应用的可信度，从而促进AI技术在企业领域的更广泛应用。然而，最终能否成功推动企业AI落地，还需要更多实践检验，并持续关注市场反馈。