guardrails demo

โครงการรักษาความปลอดภัย LLM พร้อม Llama Guard

พื้นที่เก็บข้อมูลนี้มอบวิธีที่ง่ายและรวดเร็วในการรันแอปพลิเคชัน Llama Guard บนเครื่องในพื้นที่ของคุณและสำรวจความปลอดภัยของ LLM

Llama Guard คืออะไร?

Llama Guard เป็นเฟรมเวิร์กการป้องกันที่ออกแบบมาเพื่อตรวจจับและลดความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นที่เกี่ยวข้องกับ Large Language Models (LLM) ช่วยให้นักพัฒนาและนักวิจัยสร้างแอปพลิเคชัน LLM ที่ปลอดภัยและเชื่อถือได้มากขึ้น

มีอะไรบ้าง?

การใช้งาน Nemo Guardrail: โฟลเดอร์ llama-guard ประกอบด้วยการใช้งาน NeMo Guardrail ซึ่งให้ความยืดหยุ่นและการปรับแต่งตามความต้องการเฉพาะของคุณ แอปพลิเคชัน Streamlit: มีแอปพลิเคชัน Streamlit สองแอปพลิเคชันเพื่อการทดสอบที่สะดวก: llama-guard-only.py: ทดสอบการแจ้งอินพุตและการตอบกลับโดยตรงกับ Llama Guard llama_2_with_llama-guard.py: เรียกใช้ Llama Guard ด้วยรุ่น Llama 2 13b ที่ผ่านการฝึกอบรมมาแล้วสำหรับการทดสอบในโลกแห่งความเป็นจริง

วิธีเรียกใช้แอปพลิเคชัน:

• โคลนที่เก็บนี้
• การพึ่งพาการติดตั้ง: pip install -r needs.txt
• เรียกใช้แอปพลิเคชันที่ต้องการ:
  1. ทดสอบ Llama Guard: streamlit run llama-guard-only.py
  2. ทดสอบกับ Llama 2 13b: streamlit run llama_2_with_llama-guard.py

เรียนรู้เพิ่มเติม:

โพสต์บนบล็อก: เพิ่มความเข้าใจของคุณเกี่ยวกับความปลอดภัยของ Llama Guard และ LLM ให้ลึกซึ้งยิ่งขึ้นด้วยโพสต์บนบล็อกที่ให้ข้อมูลนี้: https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defensive-strategies-for-llm- แอปพลิเคชัน-c29a87ba607f