guardrails demo

Projet de sécurité LLM avec Llama Guard

Ce référentiel fournit un moyen rapide et simple d'exécuter l'application Llama Guard sur votre ordinateur local et d'explorer la sécurité LLM.

Qu’est-ce que Llama Guard ?

Llama Guard est un cadre défensif conçu pour détecter et atténuer les risques de sécurité potentiels associés aux grands modèles linguistiques (LLM). Il aide les développeurs et les chercheurs à créer des applications LLM plus sûres et plus fiables.

Qu'est-ce qui est inclus ?

Implémentation Nemo Guardrail : Le dossier llama-guard contient une implémentation NeMo Guardrail, offrant flexibilité et personnalisation pour vos besoins spécifiques. Applications Streamlit : Deux applications Streamlit sont fournies pour des tests pratiques : llama-guard-only.py : Testez les invites de saisie et les réponses directement avec Llama Guard. llama_2_with_llama-guard.py : exécutez Llama Guard avec le modèle Llama 2 13b pré-entraîné pour des tests dans le monde réel.

Comment exécuter l'application :

• Cloner ce référentiel
• Dépendances d'installation : pip install -r conditions.txt
• Exécutez l'application souhaitée :
  1. Test Llama Guard : exécution simplifiée llama-guard-only.py
  2. Test avec Llama 2 13b : exécution simplifiée llama_2_with_llama-guard.py

Apprendre encore plus:

Article de blog : Approfondissez votre compréhension de la sécurité de Llama Guard et de LLM avec cet article de blog informatif : https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defensive-strategies-for-llm- application-c29a87ba607f