Nvidia는 최근 엔터프라이즈 AI 에이전트 애플리케이션의 보안 보호 기능을 향상시키는 것을 목표로 NeMo Guardrails 오픈 소스 툴킷의 확장으로 세 가지 새로운 NIM(Nvidia Infrastructure Microservices) 마이크로서비스를 출시했습니다. 이 세 가지 서비스는 각각 콘텐츠 보안, 대화 주제 제한, AI 에이전트 탈옥 방지에 중점을 두고 있으며, 글로벌 보안 정책에서 발생할 수 있는 허점을 효과적으로 보완하고 기업이 AI 에이전트를 배포할 수 있도록 보다 정교한 보안을 보장합니다. 이러한 경량 모델은 안전 가드레일과 같으며, 이는 AI 애플리케이션의 인기가 높아지는 상황에서 특히 중요합니다.
Nvidia는 최근 기업 AI 에이전트 애플리케이션에 더욱 정교한 보안 제어 기능을 제공하는 것을 목표로 NeMo Guardrails 오픈 소스 툴킷의 확장으로 세 가지 새로운 NIM(Nvidia Infrastructure Microservices) 마이크로서비스를 출시했습니다.
이 세 가지 새로운 서비스에는 고유한 특성이 있습니다. 하나는 AI가 유해하거나 편향된 콘텐츠를 생성하지 못하도록 하는 콘텐츠 보안이고, 두 번째는 대화가 승인된 주제로 제한되도록 하는 것이고, 세 번째는 AI 에이전트가 시스템 제한을 위반하지 못하도록 하는 것입니다. 탈옥. 이러한 경량의 특수 모델을 보안 가드레일로 배포함으로써 개발자는 글로벌 정책에 발생할 수 있는 보호 격차를 해소할 수 있습니다.
이러한 움직임은 AI 구현의 실질적인 과제를 반영합니다. 세일즈포스(Salesforce) CEO 마크 베니오프(Marc Benioff)는 자신의 플랫폼이 내년에 10억 개 이상의 AI 에이전트를 보유하게 될 것이라고 예측했지만, Deloitte의 최신 연구에 따르면 기업 채택 속도는 더욱 조심스러운 것으로 나타났습니다. 2025년에는 기업의 25%만이 AI 에이전트를 사용할 것으로 예상됩니다. , 2027년에는 이 비율이 2018년에 50%로 증가할 것입니다.
이 데이터는 기업이 AI 에이전트 기술에 대해 신중하고 기술 혁신 속도에 비해 도입 속도가 현저히 느리다는 것을 보여줍니다. 엔비디아가 이번에 출시하는 보안 서비스는 보안과 통제성을 강화해 AI 에이전트를 사용하는 기업의 우려를 줄이기 위한 것이다.
그러나 이러한 새로운 도구가 엔터프라이즈 AI 구현을 효과적으로 가속화할 수 있는지 여부는 아직 밝혀지지 않았습니다.
Nvidia의 움직임은 AI 에이전트의 보안에 대한 기업의 우려를 해결하고, AI 애플리케이션의 신뢰성을 높여 기업 분야에서 AI 기술의 광범위한 적용을 촉진하는 것을 목표로 합니다. 그러나 궁극적으로 엔터프라이즈 AI 구현을 성공적으로 촉진할 수 있으려면 보다 실질적인 테스트와 시장 피드백에 대한 지속적인 관심이 필요합니다.