ARTKIT Gandalf Challenge

使用 ARTKIT 暴露 LLM 申請中的越獄漏洞

基於提示的自動測試，從甘道夫挑戰賽的 LLM 系統中提取密碼

文章連結：https://towardsdatascience.com/exusing-jailbreak-vulnerability-in-llm-applications-with-artkit-d2df5f56ece8

背景

• 隨著大型語言模型（LLM）在不同行業和領域中得到更廣泛的採用，重大的安全風險已經出現並加劇。其中幾個關鍵問題包括侵犯資料隱私、潛在的偏見以及資訊操縱的風險。
• 發現這些安全風險對於確保 LLM 應用程式在現實場景中保持有益，同時保持其安全性、有效性和穩健性至關重要。
• 在這個專案中，我們以流行的甘道夫挑戰賽為例，探討如何使用開源ARTKIT框架自動評估LLM應用程式的安全漏洞。

文件

• gandalf_challenge.ipynb ：包含演練程式碼的 Jupyter 筆記本

參考

• 官方 ARTKIT GitHub 儲存庫
• 參加甘道夫挑戰

致謝

• 特別感謝肖恩·安加尼、安迪·穆恩、馬修·黃、蘭迪·格里芬和安德里亞·高！