OllaDeck
OllaDeck ist ein lila Technologie-Stack für Cybersicherheit mit generativer KI (Textmodalität). Es bietet einen umfassenden Satz an Tools sowohl für den Betrieb des Blue-Teams als auch des Red-Teams im Kontext der textbasierten generativen KI.
Nachricht
- Die erste Veröffentlichung von OllaDeck ist jetzt verfügbar!
- Setup verifiziert mit AMD64-Architektur, Docker für Desktop unter Windows, WSL2 mit Ubuntu und lokalem Speicher.
Inhaltsverzeichnis
- Überblick
- Schlüsselkomponenten
- Verhaltenskodex
- Blaues Team
- Rotes Team
- Installation
- Verwendung
- Nachricht
- Geplante Artikel
- Mitwirken
- Lizenz
Überblick
OllaDeck ist ein violetter Technologie-Stack für die Sicherheit generativer KI (Textmodalität). Es kombiniert LLM-Plattformen, verschiedene Datenbanktypen und spezielle Tools für sowohl offensive als auch defensive Cybersicherheitsoperationen.
Schlüsselkomponenten
- LLM-Plattformen zum Laden, Verwalten und Durchführen von LLM-Vorgängen (z. B. Chat)
- Vektor-, Diagramm- und herkömmliche Datenbanken für Datenoperationen
- Red-Team-Instanz mit Tools für generative KI (Textmodalität)
- Blue-Team-Instanz mit generativen KI-basierten Verteidigungstools
- Beispielendpunkte für simulierte Angriffe und Abwehrmaßnahmen
Verhaltenskodex
Bitte beachten Sie, dass dieses Projekt mit einem Verhaltenskodex für Mitwirkende veröffentlicht wird. Durch die Teilnahme an diesem Projekt und/oder das Klonen des Projekts erklären Sie sich mit den Bedingungen einverstanden.
Blaues Team
Das blaue Team im Kontext textbasierter generativer KI konzentriert sich auf die Verteidigung und Sicherung von KI-Systemen. Dazu gehören Aktivitäten wie:
- Überwachung der KI-Modellausgaben auf potenzielle Schwachstellen
- Implementierung von Schutzmaßnahmen gegen Prompt-Injection und andere KI-spezifische Angriffe
- Sicherstellung der Einhaltung ethischer KI-Richtlinien und -Vorschriften
- Analyse von KI-generierten Inhalten auf potenzielle Sicherheitsrisiken
Blaue Team-Tools
Derzeit verfügt OllaDeck über die folgenden Blue Team-Tools.
Grundlegende Werkzeuge
- AutoGluon : Automatisiert maschinelle Lernaufgaben
- AutoViz : Automatisierte Visualisierungsbibliothek
- python-dateutil : Leistungsstarke Erweiterungen des Standard-Datetime-Moduls
- lxml : Bibliothek zur Verarbeitung von XML und HTML
Werkzeuge zur Verarbeitung natürlicher Sprache
- PyPDF2 : PDF-Dateimanipulation
- docx : Python-Bibliothek zum Erstellen und Aktualisieren von Microsoft Word-Dateien (.docx).
- openpyxl : Python-Bibliothek zum Lesen/Schreiben von Excel-Dateien
- Tesseract : Optische Zeichenerkennungsmaschine
- TextBlob : Vereinfachte Textverarbeitung
- Gensim : Themenmodellierung, Dokumentindizierung und Ähnlichkeitssuche
Compliance-Tools
- Compliance Masonry : Tool zum Erstellen der Compliance-Dokumentation
Bedrohung durch Intel Tools
- CybOX : Strukturierte Sprache für Cyber-Observablen
- STIX : Strukturierte Sprache für Cyber-Bedrohungsinformationen
Rotes Team
Das rote Team der textbasierten generativen KI konzentriert sich auf die Identifizierung von Schwachstellen und potenziellen Angriffsvektoren in KI-Systemen. Zu den Aktivitäten gehören:
- Erstellen kontroverser Eingabeaufforderungen zur Manipulation von KI-Ausgaben
- Testen der Robustheit von KI-Modellen gegenüber verschiedenen Angriffstechniken
- Untersuchung potenzieller Datenlecks oder Datenschutzbedenken bei KI-Reaktionen
- Simulation realer Angriffsszenarien auf KI-Systeme
Rote Team-Tools
Derzeit verfügt OllaDeck über die folgenden Blue Team-Tools.
- pyRIT : Red-Team-Automatisierungs-Toolkit
- TextAttack : Framework für gegnerische Angriffe auf NLP-Modelle
- Adversarial Robustness Toolbox : Bibliothek für maschinelle Lernsicherheit
- Garak : LLM-Schwachstellenscanner
Installation
Detaillierte Installationsanweisungen finden Sie in unserer Installationsanleitung.
Geplante Artikel
- Fügen Sie weitere JupyterNotebook-Beispiele hinzu
- Fügen Sie weitere Datensätze hinzu
- Erweiterte Dokumentation und Benutzerhandbücher
- Fügen Sie weitere Tools für den Betrieb des blauen und roten Teams hinzu
Mitwirken
Wir freuen uns über Beiträge zu OllaDeck! Weitere Informationen zu den ersten Schritten finden Sie in unserem Beitragsleitfaden.
Lizenz
MIT
