OllaDeck
OllaDeck es una pila de tecnología violeta para la ciberseguridad de IA generativa (modalidad de texto). Proporciona un conjunto completo de herramientas para las operaciones del equipo azul y del equipo rojo en el contexto de la IA generativa basada en texto.
Noticias
- ¡La primera versión de OllaDeck ya está disponible!
- Configuración verificada con arquitectura AMD64, Docker para escritorio en Windows, WSL2 con Ubuntu y almacenamiento local.
Tabla de contenido
- Descripción general
- Componentes clave
- Código de conducta
- equipo azul
- equipo rojo
- Instalación
- Uso
- Noticias
- Artículos planificados
- Contribuyendo
- Licencia
Descripción general
OllaDeck es una pila de tecnología violeta para la seguridad de IA generativa (modalidad de texto). Combina plataformas LLM, varios tipos de bases de datos y herramientas especializadas para operaciones de ciberseguridad tanto ofensivas como defensivas.
Componentes clave
- Plataformas LLM para cargar, administrar y realizar operaciones LLM (por ejemplo, chat)
- Bases de datos vectoriales, gráficas y tradicionales para operaciones de datos.
- Instancia de equipo rojo con herramientas para IA Generativa (modalidad texto)
- Instancia de equipo azul con herramientas de defensa basadas en IA generativa
- Puntos finales de muestra para ataques y defensas simulados
Código de conducta
Tenga en cuenta que este proyecto se publica con un Código de conducta para colaboradores. Al participar en este proyecto y/o clonar el proyecto, usted acepta cumplir con sus términos.
equipo azul
El equipo azul en el contexto de la IA generativa basada en texto se centra en defender y asegurar los sistemas de IA. Esto incluye actividades como:
- Monitorear los resultados del modelo de IA para detectar posibles vulnerabilidades
- Implementar salvaguardias contra la inyección rápida y otros ataques específicos de IA
- Garantizar el cumplimiento de las directrices y regulaciones éticas de IA
- Análisis de contenido generado por IA en busca de posibles riesgos de seguridad
Herramientas del equipo azul
Actualmente, OllaDeck cuenta con las siguientes herramientas de Blue Team.
Herramientas fundamentales
- AutoGluon : Automatiza tareas de aprendizaje automático
- AutoViz : biblioteca de visualización automatizada
- python-dateutil : potentes extensiones para el módulo de fecha y hora estándar
- lxml : Biblioteca para procesar XML y HTML
Herramientas de procesamiento del lenguaje natural
- PyPDF2 : manipulación de archivos PDF
- docx : biblioteca Python para crear y actualizar archivos de Microsoft Word (.docx)
- openpyxl : biblioteca Python para leer/escribir archivos Excel
- Tesseract : motor de reconocimiento óptico de caracteres
- TextBlob : procesamiento de texto simplificado
- Gensim : modelado de temas, indexación de documentos y recuperación de similitudes
Herramientas de cumplimiento
- Compliance Masonry : herramienta para crear documentación de cumplimiento
Herramientas Intel de amenazas
- CybOX : lenguaje estructurado para observables cibernéticos
- STIX : lenguaje estructurado para inteligencia sobre amenazas cibernéticas
equipo rojo
El equipo rojo de IA generativa basada en texto se centra en identificar vulnerabilidades y posibles vectores de ataque en los sistemas de IA. Las actividades incluyen:
- Elaboración de indicaciones adversas para manipular los resultados de la IA
- Prueba de la solidez del modelo de IA frente a diversas técnicas de ataque
- Exploración de posibles fugas de datos o problemas de privacidad en las respuestas de IA
- Simulación de escenarios de ataques del mundo real a sistemas de IA
Herramientas del equipo rojo
Actualmente, OllaDeck cuenta con las siguientes herramientas de Blue Team.
- pyRIT : kit de herramientas de automatización del equipo rojo
- TextAttack : marco para ataques adversarios en modelos de PNL
- Adversarial Robustness Toolbox : biblioteca para la seguridad del aprendizaje automático
- Garak : escáner de vulnerabilidad LLM
Instalación
Para obtener instrucciones de instalación detalladas, consulte nuestra Guía de instalación.
Artículos planificados
- Agregue más ejemplos de JupyterNotebook
- Agregar más conjuntos de datos
- Documentación y guías de usuario mejoradas
- Agregue más herramientas para las operaciones del equipo azul y rojo
Contribuyendo
¡Agradecemos las contribuciones a OllaDeck! Consulte nuestra Guía de contribución para obtener más información sobre cómo comenzar.
Licencia
MIT
