Nvidia a récemment lancé trois nouveaux microservices NIM (Nvidia Infrastructure Microservices) en tant qu'extension de la boîte à outils open source NeMo Guardrails, visant à améliorer les capacités de protection de sécurité des applications d'agents d'IA d'entreprise. Ces trois services se concentrent respectivement sur la sécurité du contenu, la limitation des sujets de conversation et la prévention du jailbreak des agents IA. Ils compensent efficacement les éventuelles failles de la politique de sécurité globale et fournissent des garanties de sécurité plus raffinées aux entreprises lors du déploiement d'agents IA. Ces modèles légers sont comme des garde-corps de sécurité, particulièrement importants dans le contexte de la popularité croissante des applications d’IA.
Nvidia a récemment publié trois nouveaux microservices NIM (Nvidia Infrastructure Microservices) en tant qu'extension de la boîte à outils open source NeMo Guardrails, visant à fournir des capacités de contrôle de sécurité plus raffinées pour les applications d'agents d'IA d'entreprise.
Ces trois nouveaux services ont leurs propres caractéristiques : l'un vise à assurer la sécurité du contenu afin d'empêcher l'IA de générer du contenu préjudiciable ou biaisé ; le deuxième est de garantir que les conversations sont limitées aux sujets approuvés ; le troisième est d'empêcher les agents d'IA de briser les restrictions du système ; jailbreak. En déployant ces modèles spécialisés légers comme garde-fous de sécurité, les développeurs peuvent combler les lacunes de protection que peuvent présenter les politiques mondiales.
Cette décision reflète les défis pratiques liés à la mise en œuvre de l’IA. Bien que Marc Benioff, PDG de Salesforce, ait prédit que sa plateforme comptera plus d'un milliard d'agents IA au cours de la prochaine année, les dernières recherches de Deloitte montrent que le rythme d'adoption par les entreprises est plus prudent : seules 25 % des entreprises devraient utiliser des agents IA en 2025. , et d’ici 2027, cette proportion passera à 50 % en 2018.
Ces données montrent que les entreprises sont prudentes à l'égard de la technologie des agents d'IA et que la vitesse d'adoption est nettement plus lente que le rythme de l'innovation technologique. Le service de sécurité publié cette fois par Nvidia vise à réduire les inquiétudes des entreprises utilisant des agents d'IA en renforçant la sécurité et la contrôlabilité.
Il reste toutefois à voir si ces nouveaux outils pourront effectivement accélérer la mise en œuvre de l’IA en entreprise.
La décision de Nvidia vise à répondre aux préoccupations des entreprises concernant la sécurité des agents d’IA, à renforcer la crédibilité des applications d’IA et ainsi à promouvoir une application plus large de la technologie d’IA dans le domaine des entreprises. Toutefois, pour qu’elle puisse, à terme, promouvoir avec succès la mise en œuvre de l’IA en entreprise, il faut davantage de tests pratiques et une attention continue aux réactions du marché.