올라덱
OllaDeck은 생성 AI(텍스트 양식) 사이버 보안을 위한 보라색 기술 스택입니다. 텍스트 기반 생성 AI의 맥락에서 블루팀과 레드팀 운영 모두를 위한 포괄적인 도구 세트를 제공합니다.
소식
- OllaDeck의 첫 번째 출시가 시작되었습니다!
- AMD64 아키텍처, Windows의 데스크톱용 Docker, Ubuntu가 포함된 WSL2 및 로컬 스토리지로 설정이 확인되었습니다.
목차
- 개요
- 주요 구성 요소
- 행동 강령
- 블루팀
- 레드팀
- 설치
- 용법
- 소식
- 계획 품목
- 기여
- 특허
개요
OllaDeck은 생성 AI(텍스트 양식) 보안을 위한 보라색 기술 스택입니다. 공격 및 방어 사이버 보안 운영을 위한 LLM 플랫폼, 다양한 데이터베이스 유형 및 특수 도구를 결합합니다.
주요 구성 요소
- LLM 작업(예: 채팅) 로드, 관리 및 수행을 위한 LLM 플랫폼
- 데이터 작업을 위한 벡터, 그래프 및 기존 데이터베이스
- Generative AI용 도구가 포함된 레드팀 인스턴스(텍스트 양식)
- Generative AI 기반 방어 도구를 갖춘 블루 팀 인스턴스
- 시뮬레이션된 공격 및 방어를 위한 샘플 엔드포인트
행동 강령
이 프로젝트는 기여자 행동 강령과 함께 출시되었습니다. 이 프로젝트에 참여하거나 프로젝트를 복제함으로써 귀하는 해당 조건을 준수할 것에 동의하게 됩니다.
블루팀
텍스트 기반 생성 AI 맥락에서 블루팀은 AI 시스템 방어 및 보안에 중점을 둡니다. 여기에는 다음과 같은 활동이 포함됩니다.
- 잠재적인 취약점에 대한 AI 모델 출력 모니터링
- 신속한 주입 및 기타 AI 관련 공격에 대한 보호 장치 구현
- 윤리적인 AI 지침 및 규정 준수 보장
- 잠재적인 보안 위험에 대한 AI 생성 콘텐츠 분석
블루팀 도구
현재 OllaDeck에는 다음과 같은 Blue Team 도구가 있습니다.
기초 도구
- AutoGluon : 기계 학습 작업을 자동화합니다.
- AutoViz : 자동화된 시각화 라이브러리
- python-dateutil : 표준 datetime 모듈에 대한 강력한 확장
- lxml : XML 및 HTML 처리를 위한 라이브러리
자연어 처리 도구
- PyPDF2 : PDF 파일 조작
- docx : Microsoft Word(.docx) 파일을 생성하고 업데이트하기 위한 Python 라이브러리
- openpyxl : Excel 파일을 읽고 쓰는 Python 라이브러리
- Tesseract : 광학 문자 인식 엔진
- TextBlob : 단순화된 텍스트 처리
- Gensim : 주제 모델링, 문서 색인화 및 유사성 검색
규정 준수 도구
- 규정 준수 메이슨리(Compliance Masonry) : 규정 준수 문서 작성을 위한 도구
위협 인텔 도구
- CybOX : 사이버 관찰 가능 항목을 위한 구조화된 언어
- STIX : 사이버 위협 인텔리전스를 위한 구조화된 언어
레드팀
텍스트 기반 생성 AI의 레드팀은 AI 시스템의 취약점과 잠재적인 공격 벡터를 식별하는 데 중점을 둡니다. 활동에는 다음이 포함됩니다:
- AI 출력을 조작하기 위한 적대적 프롬프트 작성
- 다양한 공격 기법에 대해 AI 모델 견고성 테스트
- AI 대응 시 잠재적인 데이터 유출 또는 개인 정보 보호 문제 탐색
- AI 시스템에 대한 실제 공격 시나리오 시뮬레이션
레드팀 도구
현재 OllaDeck에는 다음과 같은 Blue Team 도구가 있습니다.
- pyRIT : 레드팀 자동화 툴킷
- TextAttack : NLP 모델에 대한 적대적 공격을 위한 프레임워크
- Adversarial Robustness Toolbox : 머신러닝 보안을 위한 라이브러리
- 가락 : LLM 취약점 스캐너
설치
자세한 설치 지침은 설치 가이드를 참조하세요.
계획 품목
- 더 많은 JupyterNotebook 예제 추가
- 더 많은 데이터 세트 추가
- 향상된 문서 및 사용자 가이드
- 블루팀과 레드팀 운영을 위한 더 많은 도구 추가
기여
OllaDeck에 대한 기여를 환영합니다! 시작하는 방법에 대한 자세한 내용은 기여 가이드를 참조하세요.
특허
MIT
