オラデッキ
OllaDeck は、生成 AI (テキスト モダリティ) サイバーセキュリティ用のパープル テクノロジー スタックです。テキストベースの生成 AI のコンテキストで、ブルー チームとレッド チームの両方の運用のための包括的なツール セットを提供します。
ニュース
- OllaDeck の最初のリリースが利用可能になりました。
- セットアップは、AMD64 アーキテクチャ、Windows 上の Docker for Desktop、Ubuntu を使用した WSL2、およびローカル ストレージで検証されました。
目次
- 概要
- 主要コンポーネント
- 行動規範
- ブルーチーム
- レッドチーム
- インストール
- 使用法
- ニュース
- 予定品目
- 貢献する
- ライセンス
概要
OllaDeck は、Generative AI (テキスト モダリティ) セキュリティのためのパープル テクノロジー スタックです。 LLM プラットフォーム、さまざまな種類のデータベース、攻撃側と防御側の両方のサイバーセキュリティ運用に特化したツールを組み合わせています。
主要コンポーネント
- LLM 操作 (チャットなど) をロード、管理、実行するための LLM プラットフォーム
- データ操作のためのベクトル、グラフ、および従来のデータベース
- Generative AI (テキスト モダリティ) 用のツールを備えたレッド チーム インスタンス
- Generative AI ベースの防御ツールを備えたブルー チーム インスタンス
- 攻撃と防御をシミュレートするためのサンプル エンドポイント
行動規範
このプロジェクトは貢献者の行動規範とともにリリースされていることに注意してください。このプロジェクトに参加すること、および/またはプロジェクトのクローンを作成することにより、その規約に従うことに同意したものとみなされます。
ブルーチーム
テキストベースの生成 AI のコンテキストにおける青のチームは、AI システムの防御とセキュリティに重点を置いています。これには次のような活動が含まれます。
- AI モデルの出力を監視して潜在的な脆弱性を検出する
- プロンプトインジェクションやその他の AI 固有の攻撃に対する保護手段の実装
- 倫理的な AI ガイドラインと規制への準拠を確保する
- AI が生成したコンテンツを分析して潜在的なセキュリティ リスクを検出する
ブルーチームツール
現在、OllaDeck には次の Blue Team ツールがあります。
基礎ツール
- AutoGluon : 機械学習タスクを自動化します
- AutoViz : 自動視覚化ライブラリ
- python-dateutil : 標準の datetime モジュールの強力な拡張機能
- lxml : XMLおよびHTMLを処理するためのライブラリ
自然言語処理ツール
- PyPDF2 : PDF ファイルの操作
- docx : Microsoft Word (.docx) ファイルを作成および更新するための Python ライブラリ
- openpyxl : Excel ファイルを読み書きするための Python ライブラリ
- Tesseract : 光学式文字認識エンジン
- TextBlob : 簡略化されたテキスト処理
- Gensim : トピックモデリング、ドキュメントインデックス作成、類似性検索
コンプライアンスツール
- Compliance Masonry : コンプライアンス文書を作成するためのツール
脅威インテルツール
- CybOX : サイバー観測可能な構造化言語
- STIX : サイバー脅威インテリジェンスのための構造化言語
レッドチーム
テキストベースの生成 AI のレッド チームは、AI システムの脆弱性と潜在的な攻撃ベクトルの特定に重点を置いています。活動には次のものが含まれます。
- AI 出力を操作するための敵対的なプロンプトを作成する
- さまざまな攻撃手法に対する AI モデルの堅牢性をテストする
- AI 対応における潜在的なデータ漏洩またはプライバシーの問題を調査する
- AI システム上で現実世界の攻撃シナリオをシミュレーションする
レッドチームツール
現在、OllaDeck には次の Blue Team ツールがあります。
- pyRIT : レッドチーム自動化ツールキット
- Text Attack : NLP モデルに対する敵対的攻撃のフレームワーク
- Adversarial Robustness Toolbox : 機械学習セキュリティのためのライブラリ
- Garak : LLM 脆弱性スキャナー
インストール
インストール手順の詳細については、インストール ガイドを参照してください。
予定品目
- JupyterNotebook の例をさらに追加する
- データセットをさらに追加する
- 強化されたドキュメントとユーザーガイド
- ブルーチームとレッドチームの両方の運営のためのツールを追加する
貢献する
OllaDeck への貢献を歓迎します。開始方法の詳細については、貢献ガイドを参照してください。
ライセンス
マサチューセッツ工科大学
