guardrails demo

Llama Guard 的法学硕士安全项目

该存储库提供了一种快速简便的方法来在本地计算机上运行 Llama Guard 应用程序并探索 LLM 安全性。

什么是骆驼卫士？

Llama Guard 是一个防御框架，旨在检测和减轻与大型语言模型 (LLM) 相关的潜在安全风险。它帮助开发人员和研究人员构建更安全、更可靠的法学硕士应用程序。

包括什么？

Nemo Guardrail 实施： llama-guard 文件夹包含 NeMo Guardrail 实施，为您的特定需求提供灵活性和自定义。 Streamlit 应用程序：提供了两个 Streamlit 应用程序以方便测试： llama-guard-only.py：直接使用 Llama Guard 测试输入提示和响应。 llama_2_with_llama-guard.py：使用预先训练的 Llama 2 13b 模型运行 Llama Guard 进行实际测试。

如何运行应用程序：

• 克隆这个存储库
• 安装依赖项：pip install -rrequirements.txt
• 运行所需的应用程序：
  1. 测试 Llama Guard：streamlit 运行 llama-guard-only.py
  2. 使用 Llama 2 13b 进行测试：streamlit 运行 llama_2_with_llama-guard.py

了解更多：

博客文章：通过这篇内容丰富的博客文章加深您对 Llama Guard 和 LLM 安全性的理解：https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defective-strategies-for-llm-应用程序-c29a87ba607f