guardrails demo

Proyek Keamanan LLM dengan Llama Guard

Repositori ini menyediakan cara cepat dan mudah untuk menjalankan aplikasi Llama Guard di mesin lokal Anda dan menjelajahi keamanan LLM.

Apa itu Penjaga Llama?

Llama Guard adalah kerangka pertahanan yang dirancang untuk mendeteksi dan memitigasi potensi risiko keamanan yang terkait dengan Model Bahasa Besar (LLM). Ini membantu pengembang dan peneliti membangun aplikasi LLM yang lebih aman dan andal.

Apa yang termasuk?

Implementasi Nemo Guardrail: Folder llama-guard berisi implementasi NeMo Guardrail, yang menawarkan fleksibilitas dan penyesuaian untuk kebutuhan spesifik Anda. Aplikasi Streamlit: Dua aplikasi Streamlit disediakan untuk pengujian yang mudah: llama-guard-only.py: Uji perintah masukan dan respons langsung dengan Llama Guard. llama_2_with_llama-guard.py: Jalankan Llama Guard dengan model Llama 2 13b yang telah dilatih sebelumnya untuk pengujian di dunia nyata.

Cara menjalankan aplikasi:

• Kloning repositori ini
• Instal dependensi: pip install -r persyaratan.txt
• Jalankan aplikasi yang diinginkan:
  1. Uji Llama Guard: jalankan streamlit llama-guard-only.py
  2. Tes dengan Llama 2 13b: streamlit jalankan llama_2_with_llama-guard.py

Pelajari Lebih Lanjut:

Entri blog: Perdalam pemahaman Anda tentang Llama Guard dan keamanan LLM dengan entri blog informatif ini: https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defensive-strategies-for-llm- aplikasi-c29a87ba607f