Nvidia近期推出了三項新的NIM（Nvidia Infrastructure Microservices）微服務，作為NeMo Guardrails開源工具包的擴展，旨在增強企業AI代理應用的安全防護能力。這三項服務分別聚焦於內容安全、對話主題限定以及防止AI代理越獄，有效彌補了全局安全策略可能存在的漏洞，為企業部署AI代理提供了更精細化的安全保障。這些輕量級模型如同安全護欄，在AI應用日益普及的背景下，顯得尤為重要。
Nvidia近日發布三項新的NIM（Nvidia Infrastructure Microservices）微服務，作為NeMo Guardrails開源工具包的擴展，旨在為企業AI代理應用提供更精細的安全管控能力。
這三項新服務各具特色:一是針對內容安全，防止AI生成有害或帶有偏見的內容;二是確保對話限定在獲批主題範圍內;三是防止AI代理突破系統限製或越獄。通過部署這些輕量級專門模型作為安全護欄，開發者可以彌補全局政策可能存在的保護漏洞。
此舉反映了AI落地過程中的實際挑戰。儘管Salesforce CEO馬克·貝尼奧夫曾預測其平台未來一年內將擁有超10億AI代理，但德勤最新研究顯示企業採用進度較為謹慎:預計2025年僅25%的企業會使用AI代理，到2027年這一比例將升至50%。
這一數據表明，企業對AI代理技術持謹慎態度，採用速度明顯慢於技術創新節奏。 Nvidia此次發布的安全服務，意在通過加強安全性和可控性，降低企業採用AI代理的顧慮。
不過，這些新工具能否有效加速企業AI落地進程，仍有待時間驗證。
Nvidia此舉旨在解決企業對AI代理安全性的擔憂，提升AI應用的可信度，從而促進AI技術在企業領域的更廣泛應用。然而，最終能否成功推動企業AI落地，還需要更多實踐檢驗，並持續關注市場反饋。