奥拉德克
OllaDeck 是一个用于生成 AI（文本模态）网络安全的紫色技术堆栈。它为蓝队和红队在基于文本的生成人工智能背景下的操作提供了一套全面的工具。
消息
- OllaDeck 的第一版现已发布！
- 使用 AMD64 架构、Windows 上的 Docker for Desktop、Ubuntu 上的 WSL2 和本地存储验证了设置。
目录
- 概述
- 关键部件
- 行为守则
- 蓝队
- 红队
- 安装
- 用法
- 消息
- 计划项目
- 贡献
- 执照
概述
OllaDeck 是一个用于生成 AI（文本模态）安全性的紫色技术堆栈。它结合了法学硕士平台、各种数据库类型以及用于进攻性和防御性网络安全操作的专用工具。
关键部件
- 用于加载、管理和执行LLM操作（例如聊天）的LLM平台
- 用于数据操作的矢量、图形和传统数据库
- 带有生成 AI 工具的红队实例（文本模式）
- 具有基于人工智能的生成防御工具的蓝队实例
- 模拟攻击和防御的示例端点
行为守则
请注意，该项目是随贡献者行为准则一起发布的。通过参与该项目和/或克隆该项目，您同意遵守其条款。
蓝队
在基于文本的生成人工智能背景下，蓝色团队专注于保护和保护人工智能系统。这包括以下活动：
- 监控 AI 模型输出是否存在潜在漏洞
- 实施针对即时注入和其他 AI 特定攻击的防护措施
- 确保遵守人工智能道德准则和法规
- 分析人工智能生成的内容是否存在潜在的安全风险
蓝队工具
目前，OllaDeck 拥有以下蓝队工具。
基础工具
- AutoGluon ：自动化机器学习任务
- AutoViz ：自动化可视化库
- python-dateutil ：标准日期时间模块的强大扩展
- lxml ：用于处理 XML 和 HTML 的库
自然语言处理工具
- PyPDF2 ：PDF 文件操作
- docx ：用于创建和更新 Microsoft Word (.docx) 文件的 Python 库
- openpyxl ：用于读取/写入 Excel 文件的 Python 库
- Tesseract ：光学字符识别引擎
- TextBlob ：简化的文本处理
- Gensim ：主题建模、文档索引和相似性检索
合规工具
威胁英特尔工具
- CybOX ：网络可观测值的结构化语言
- STIX ：网络威胁情报的结构化语言
红队
基于文本的生成人工智能领域的红队专注于识别人工智能系统中的漏洞和潜在的攻击向量。活动包括：
- 制作对抗性提示来操纵人工智能输出
- 测试 AI 模型针对各种攻击技术的稳健性
- 探索人工智能响应中潜在的数据泄露或隐私问题
- 模拟人工智能系统的真实攻击场景
红队工具
目前，OllaDeck 拥有以下蓝队工具。
- pyRIT ：红队自动化工具包
- TextAttack ：NLP 模型的对抗性攻击框架
- Adversarial Robustness Toolbox ：机器学习安全库
- Garak ：法学硕士漏洞扫描器
安装
有关详细的安装说明，请参阅我们的安装指南。
计划项目
- 添加更多 JupyterNotebook 示例
- 添加更多数据集
- 增强的文档和用户指南
- 为蓝队和红队操作添加更多工具
贡献
我们欢迎为 OllaDeck 做出贡献！请参阅我们的贡献指南，了解有关如何开始的更多信息。
执照
麻省理工学院
