guardrails demo

Llama Guard 的法學碩士安全項目

該儲存庫提供了一種快速簡便的方法來在本機上運行 Llama Guard 應用程式並探索 LLM 安全性。

什麼是駱駝衛士？

Llama Guard 是一個防禦框架，旨在檢測和減輕與大型語言模型 (LLM) 相關的潛在安全風險。它幫助開發人員和研究人員建立更安全、更可靠的法學碩士應用程式。

包括什麼？

Nemo Guardrail 實作： llama-guard 資料夾包含 NeMo Guardrail 實施，為您的特定需求提供彈性和自訂。 Streamlit 應用程式：提供了兩個 Streamlit 應用程式以方便測試： llama-guard-only.py：直接使用 Llama Guard 測試輸入提示和回應。 llama_2_with_llama-guard.py：使用預先訓練的 Llama 2 13b 模型執行 Llama Guard 進行實際測試。

如何運行應用程式：

• 克隆這個儲存庫
• 安裝依賴項：pip install -rrequirements.txt
• 運行所需的應用程式：
  1. 測試 Llama Guard：streamlit 運行 llama-guard-only.py
  2. 使用 Llama 2 13b 進行測試：streamlit 執行 llama_2_with_llama-guard.py

了解更多：

部落格文章：透過這篇內容豐富的部落格文章加深您對Llama Guard 和LLM 安全性的理解：https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defective-strategies -for-llm-應用程式-c29a87ba607f