โอลล่าเด็ค
OllaDeck เป็นชุดเทคโนโลยีสีม่วงสำหรับการรักษาความปลอดภัยทางไซเบอร์แบบ Generative AI (รูปแบบข้อความ) มีชุดเครื่องมือที่ครอบคลุมสำหรับการดำเนินงานทั้งทีมสีน้ำเงินและทีมสีแดงในบริบทของ AI ที่สร้างตามข้อความ
ข่าว
- OllaDeck เปิดตัวครั้งแรกแล้ว!
- ตรวจสอบการตั้งค่าด้วยสถาปัตยกรรม AMD64, Docker สำหรับเดสก์ท็อปบน Windows, WSL2 พร้อม Ubuntu และพื้นที่เก็บข้อมูลในเครื่อง
สารบัญ
- ภาพรวม
- ส่วนประกอบสำคัญ
- หลักจรรยาบรรณ
- ทีมสีฟ้า
- ทีมสีแดง
- การติดตั้ง
- การใช้งาน
- ข่าว
- รายการที่วางแผนไว้
- มีส่วนร่วม
- ใบอนุญาต
ภาพรวม
OllaDeck คือกลุ่มเทคโนโลยีสีม่วงสำหรับการรักษาความปลอดภัยแบบ Generative AI (รูปแบบข้อความ) มันรวมแพลตฟอร์ม LLM, ฐานข้อมูลประเภทต่างๆ และเครื่องมือพิเศษสำหรับการดำเนินการรักษาความปลอดภัยทางไซเบอร์ทั้งเชิงรุกและเชิงป้องกัน
ส่วนประกอบสำคัญ
- แพลตฟอร์ม LLM สำหรับการโหลด จัดการ และดำเนินการ LLM (เช่น แชท)
- เวกเตอร์ กราฟ และฐานข้อมูลแบบดั้งเดิมสำหรับการดำเนินการข้อมูล
- ตัวอย่างทีมสีแดงพร้อมเครื่องมือสำหรับ Generative AI (รูปแบบข้อความ)
- ตัวอย่างทีมสีน้ำเงินพร้อมเครื่องมือป้องกันที่ใช้ Generative AI
- ตัวอย่างจุดสิ้นสุดสำหรับการโจมตีและการป้องกันจำลอง
หลักจรรยาบรรณ
โปรดทราบว่าโครงการนี้เผยแพร่พร้อมกับจรรยาบรรณของผู้ร่วมให้ข้อมูล การเข้าร่วมในโครงการนี้และ/หรือการโคลนโครงการ แสดงว่าคุณตกลงที่จะปฏิบัติตามข้อกำหนดของโครงการ
ทีมสีฟ้า
ทีมสีน้ำเงินในบริบทของ AI ที่สร้างตามข้อความมุ่งเน้นไปที่การปกป้องและรักษาความปลอดภัยระบบ AI ซึ่งรวมถึงกิจกรรมต่างๆ เช่น:
- การตรวจสอบผลลัพธ์ของโมเดล AI เพื่อหาช่องโหว่ที่อาจเกิดขึ้น
- การใช้การป้องกันจากการฉีดทันทีและการโจมตีเฉพาะ AI อื่นๆ
- รับรองการปฏิบัติตามแนวทางและข้อบังคับด้านจริยธรรมของ AI
- การวิเคราะห์เนื้อหาที่สร้างโดย AI เพื่อหาความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
เครื่องมือทีมสีน้ำเงิน
ปัจจุบัน OllaDeck มีเครื่องมือ Blue Team ดังต่อไปนี้
เครื่องมือพื้นฐาน
- AutoGluon : ทำให้งานการเรียนรู้ของเครื่องเป็นอัตโนมัติ
- AutoViz : ไลบรารีการแสดงภาพอัตโนมัติ
- python-dateutil : ส่วนขยายที่มีประสิทธิภาพสำหรับโมดูล datetime มาตรฐาน
- lxml : ไลบรารีสำหรับการประมวลผล XML และ HTML
เครื่องมือประมวลผลภาษาธรรมชาติ
- PyPDF2 : การจัดการไฟล์ PDF
- docx : ไลบรารี Python สำหรับการสร้างและอัปเดตไฟล์ Microsoft Word (.docx)
- openpyxl : ไลบรารี Python สำหรับอ่าน/เขียนไฟล์ Excel
- Tesseract : เอ็นจิ้นการรู้จำอักขระด้วยแสง
- TextBlob : การประมวลผลข้อความแบบง่าย
- Gensim : การสร้างแบบจำลองหัวข้อ การทำดัชนีเอกสาร และการดึงข้อมูลความคล้ายคลึงกัน
เครื่องมือการปฏิบัติตามข้อกำหนด
- Compliance Masonry : เครื่องมือสำหรับการสร้างเอกสารการปฏิบัติตามข้อกำหนด
ภัยคุกคามเครื่องมือของ Intel
- CyboX : ภาษาที่มีโครงสร้างสำหรับการสังเกตทางไซเบอร์
- STIX : ภาษาที่มีโครงสร้างสำหรับข่าวกรองภัยคุกคามทางไซเบอร์
ทีมสีแดง
ทีมสีแดงใน AI แบบสร้างข้อความมุ่งเน้นไปที่การระบุช่องโหว่และเวกเตอร์การโจมตีที่อาจเกิดขึ้นในระบบ AI กิจกรรมต่างๆ ได้แก่:
- การสร้างการแจ้งเตือนฝ่ายตรงข้ามเพื่อจัดการเอาท์พุต AI
- การทดสอบความแข็งแกร่งของโมเดล AI กับเทคนิคการโจมตีต่างๆ
- สำรวจการรั่วไหลของข้อมูลที่อาจเกิดขึ้นหรือข้อกังวลด้านความเป็นส่วนตัวในการตอบสนองของ AI
- จำลองสถานการณ์การโจมตีในโลกแห่งความเป็นจริงบนระบบ AI
เครื่องมือทีมสีแดง
ปัจจุบัน OllaDeck มีเครื่องมือ Blue Team ดังต่อไปนี้
- pyRIT : ชุดเครื่องมืออัตโนมัติของทีม Red
- TextAttack : กรอบการทำงานสำหรับการโจมตีฝ่ายตรงข้ามในโมเดล NLP
- กล่องเครื่องมือ Adversarial Robustness : ไลบรารีเพื่อความปลอดภัยของการเรียนรู้ของเครื่อง
- Garak : เครื่องสแกนช่องโหว่ LLM
การติดตั้ง
สำหรับคำแนะนำในการติดตั้งโดยละเอียด โปรดดูคู่มือการติดตั้งของเรา
รายการที่วางแผนไว้
- เพิ่มตัวอย่าง JupyterNotebook เพิ่มเติม
- เพิ่มชุดข้อมูลเพิ่มเติม
- เอกสารและคู่มือผู้ใช้ที่ได้รับการปรับปรุง
- เพิ่มเครื่องมือเพิ่มเติมสำหรับการดำเนินงานทั้งทีมสีน้ำเงินและสีแดง
มีส่วนร่วม
เรายินดีรับการมีส่วนร่วมกับ OllaDeck! โปรดดูคู่มือการสนับสนุนของเราสำหรับข้อมูลเพิ่มเติมเกี่ยวกับวิธีเริ่มต้นใช้งาน
ใบอนุญาต
เอ็มไอที
