guardrails demo

Llama Guard와 함께하는 LLM 보안 프로젝트

이 저장소는 로컬 컴퓨터에서 Llama Guard 애플리케이션을 실행하고 LLM 보안을 탐색하는 빠르고 쉬운 방법을 제공합니다.

라마 가드란 무엇인가요?

Llama Guard는 LLM(대형 언어 모델)과 관련된 잠재적인 보안 위험을 감지하고 완화하도록 설계된 방어 프레임워크입니다. 개발자와 연구자가 더욱 안전하고 안정적인 LLM 애플리케이션을 구축하는 데 도움이 됩니다.

무엇이 포함되어 있나요?

Nemo Guardrail 구현: llama-guard 폴더에는 NeMo Guardrail 구현이 포함되어 있어 특정 요구 사항에 맞는 유연성과 사용자 정의를 제공합니다. Streamlit 애플리케이션: 편리한 테스트를 위해 두 개의 Streamlit 애플리케이션이 제공됩니다. llama-guard-only.py: Llama Guard를 사용하여 직접 입력 프롬프트 및 응답을 테스트합니다. llama_2_with_llama-guard.py: 실제 테스트를 위해 사전 훈련된 Llama 2 13b 모델을 사용하여 Llama Guard를 실행합니다.

애플리케이션 실행 방법:

• 이 저장소 복제
• 종속성 설치: pip install -r 요구사항.txt
• 원하는 애플리케이션을 실행합니다.
  1. Llama Guard 테스트: 간소화된 실행 llama-guard-only.py
  2. Llama 2 13b로 테스트: 스트림라이트 실행 llama_2_with_llama-guard.py

자세히 알아보기:

블로그 게시물: 이 유익한 블로그 게시물을 통해 Llama Guard 및 LLM 보안에 대한 이해를 심화시키세요: https://balavenkatesh.medium.com/securing-tomorrows-ai-world-today-llama-guard-defensive-strategies-for-llm- 응용 프로그램-c29a87ba607f