Exponiendo vulnerabilidades de jailbreak en aplicaciones LLM con ARTKIT
Pruebas automatizadas basadas en indicaciones para extraer contraseñas del sistema LLM de Gandalf Challenge
Enlace al artículo: https://towardsdatascience.com/exposing-jailbreak-vulnerabilities-in-llm-applications-with-artkit-d2df5f56ece8
Fondo
- A medida que los modelos de lenguajes grandes (LLM) se adoptan más ampliamente en diferentes industrias y dominios, han surgido y se han intensificado importantes riesgos de seguridad. Varias de estas preocupaciones clave incluyen violaciones de la privacidad de los datos, la posibilidad de sesgos y el riesgo de manipulación de la información.
- Descubrir estos riesgos de seguridad es crucial para garantizar que las aplicaciones LLM sigan siendo beneficiosas en escenarios del mundo real y al mismo tiempo mantengan su seguridad, eficacia y solidez.
- En este proyecto, exploramos cómo utilizar el marco ARTKIT de código abierto para evaluar automáticamente las vulnerabilidades de seguridad de las aplicaciones LLM utilizando el popular Gandalf Challenge como ejemplo ilustrativo.
Archivos
-
gandalf_challenge.ipynb : cuaderno de Jupyter que contiene los códigos para el tutorial.
Referencias
- Repositorio oficial de ARTKIT en GitHub
- Juega el Desafío Gandalf
Expresiones de gratitud
- ¡Un agradecimiento especial a Sean Anggani, Andy Moon, Matthew Wong, Randi Griffin y Andrea Gao!
