OllaDeck
OllaDeck est une pile technologique violette pour la cybersécurité de l'IA générative (modalité texte). Il fournit un ensemble complet d'outils pour les opérations de l'équipe bleue et de l'équipe rouge dans le contexte de l'IA générative basée sur du texte.
Nouvelles
- La première version d'OllaDeck est maintenant disponible !
- Configuration vérifiée avec l'architecture AMD64, Docker for Desktop sous Windows, WSL2 avec Ubuntu et stockage local.
Table des matières
- Aperçu
- Composants clés
- Code de conduite
- Équipe bleue
- Équipe rouge
- Installation
- Usage
- Nouvelles
- Articles planifiés
- Contribuer
- Licence
Aperçu
OllaDeck est une pile technologique violette pour la sécurité de l'IA générative (modalité texte). Il combine des plates-formes LLM, divers types de bases de données et des outils spécialisés pour les opérations de cybersécurité offensives et défensives.
Composants clés
- Plateformes LLM pour le chargement, la gestion et l'exécution d'opérations LLM (par exemple, chat)
- Bases de données vectorielles, graphiques et traditionnelles pour les opérations de données
- Instance Red Team avec des outils pour l'IA générative (modalité texte)
- Instance Blue Team avec outils de défense basés sur l'IA générative
- Exemples de points de terminaison pour les attaques et les défenses simulées
Code de conduite
Veuillez noter que ce projet est publié avec un code de conduite des contributeurs. En participant à ce projet et/ou en clonant le projet, vous acceptez d'en respecter les termes.
Équipe bleue
L'équipe bleue dans le contexte de l'IA générative basée sur du texte se concentre sur la défense et la sécurisation des systèmes d'IA. Cela comprend des activités telles que :
- Surveillance des résultats du modèle d'IA pour détecter les vulnérabilités potentielles
- Mise en œuvre de mesures de protection contre l'injection rapide et d'autres attaques spécifiques à l'IA
- Garantir le respect des directives et réglementations éthiques en matière d’IA
- Analyser le contenu généré par l'IA pour détecter les risques de sécurité potentiels
Outils de l'équipe bleue
Actuellement, OllaDeck dispose des outils Blue Team suivants.
Outils fondamentaux
- AutoGluon : Automatise les tâches de machine learning
- AutoViz : Bibliothèque de visualisation automatisée
- python-dateutil : Extensions puissantes au module datetime standard
- lxml : Bibliothèque de traitement XML et HTML
Outils de traitement du langage naturel
- PyPDF2 : manipulation de fichiers PDF
- docx : bibliothèque Python pour créer et mettre à jour des fichiers Microsoft Word (.docx)
- openpyxl : bibliothèque Python pour lire/écrire des fichiers Excel
- Tesseract : moteur de reconnaissance optique de caractères
- TextBlob : Traitement de texte simplifié
- Gensim : Modélisation de sujets, indexation de documents et récupération de similarités
Outils de conformité
- Compliance Masonry : Outil de construction de documentation de conformité
Menace des outils Intel
- CybOX : Langage structuré pour les cyber observables
- STIX : Langage structuré pour la veille sur les cybermenaces
Équipe rouge
L’équipe rouge en IA générative basée sur le texte se concentre sur l’identification des vulnérabilités et des vecteurs d’attaque potentiels dans les systèmes d’IA. Les activités comprennent :
- Créer des invites contradictoires pour manipuler les résultats de l'IA
- Tester la robustesse du modèle d'IA contre diverses techniques d'attaque
- Explorer les problèmes potentiels de fuite de données ou de confidentialité dans les réponses de l'IA
- Simulation de scénarios d'attaque réels sur des systèmes d'IA
Outils de l'équipe rouge
Actuellement, OllaDeck dispose des outils Blue Team suivants.
- pyRIT : boîte à outils d'automatisation de l'équipe rouge
- TextAttack : Framework d'attaques contradictoires sur les modèles NLP
- Adversarial Robustness Toolbox : bibliothèque pour la sécurité du machine learning
- Garak : scanner de vulnérabilités LLM
Installation
Pour des instructions d'installation détaillées, veuillez vous référer à notre guide d'installation.
Articles planifiés
- Ajouter plus d'exemples JupyterNotebook
- Ajouter plus d'ensembles de données
- Documentation et guides d'utilisation améliorés
- Ajoutez plus d'outils pour les opérations des équipes bleues et rouges
Contribuer
Nous apprécions les contributions à OllaDeck ! Veuillez consulter notre Guide de contribution pour plus d'informations sur la façon de commencer.
Licence
MIT
