奧拉德克
OllaDeck 是一個用於生成 AI（文字模態）網路安全的紫色技術堆疊。它為藍隊和紅隊在基於文字的生成人工智慧背景下的操作提供了一套全面的工具。
訊息
- OllaDeck 的第一版現已發布！
- 使用 AMD64 架構、Windows 上的 Docker for Desktop、Ubuntu 上的 WSL2 和本機儲存驗證了設定。
目錄
- 概述
- 關鍵零件
- 行為守則
- 藍隊
- 紅隊
- 安裝
- 用法
- 訊息
- 計劃項目
- 貢獻
- 執照
概述
OllaDeck 是一個用於產生 AI（文字模態）安全性的紫色技術堆疊。它結合了法學碩士平台、各種資料庫類型以及用於進攻性和防禦性網路安全操作的專用工具。
關鍵零件
- 用於載入、管理和執行LLM操作（例如聊天）的LLM平台
- 用於資料運算的向量、圖形和傳統資料庫
- 帶有生成 AI 工具的紅隊實例（文字模式）
- 具有基於人工智慧的生成防禦工具的藍隊實例
- 模擬攻擊和防禦的範例端點
行為守則
請注意，該項目是隨貢獻者行為準則一起發布的。透過參與該項目和/或克隆該項目，您同意遵守其條款。
藍隊
在基於文字的生成人工智慧背景下，藍色團隊專注於保護和保護人工智慧系統。這包括以下活動：
- 監控 AI 模型輸出是否有潛在漏洞
- 實施即時注入和其他 AI 特定攻擊的防護措施
- 確保遵守人工智慧道德準則和法規
- 分析人工智慧產生的內容是否有潛在的安全風險
藍隊工具
目前，OllaDeck 擁有以下藍隊工具。
基礎工具
- AutoGluon ：自動化機器學習任務
- AutoViz ：自動化視覺化函式庫
- python-dateutil ：標準日期時間模組的強大擴展
- lxml ：用於處理 XML 和 HTML 的函式庫
自然語言處理工具
- PyPDF2 ：PDF 文件操作
- docx ：用於建立和更新 Microsoft Word (.docx) 檔案的 Python 程式庫
- openpyxl ：用於讀取/寫入 Excel 檔案的 Python 函式庫
- Tesseract ：光學字元辨識引擎
- TextBlob ：簡化的文字處理
- Gensim ：主題建模、文件索引和相似性檢索
合規工具
威脅英特爾工具
- CybOX ：網路可觀測值的結構化語言
- STIX ：網路威脅情報的結構化語言
紅隊
基於文字的生成人工智慧領域的紅隊專注於識別人工智慧系統中的漏洞和潛在的攻擊向量。活動包括：
- 製作對抗性提示來操弄人工智慧輸出
- 測試 AI 模型針對各種攻擊技術的穩健性
- 探索人工智慧回應中潛在的資料外洩或隱私問題
- 模擬人工智慧系統的真實攻擊場景
紅隊工具
目前，OllaDeck 擁有以下藍隊工具。
- pyRIT ：紅隊自動化工具包
- TextAttack ：NLP 模型的對抗性攻擊框架
- Adversarial Robustness Toolbox ：機器學習安全庫
- Garak ：法學碩士漏洞掃描器
安裝
有關詳細的安裝說明，請參閱我們的安裝指南。
計劃項目
- 新增更多 JupyterNotebook 範例
- 新增更多資料集
- 增強的文件和使用者指南
- 為藍隊和紅隊操作添加更多工具
貢獻
我們歡迎為 OllaDeck 做出貢獻！請參閱我們的貢獻指南，以了解有關如何開始的更多資訊。
執照
麻省理工學院
