OllaDeck
OllaDeck adalah tumpukan teknologi ungu untuk keamanan siber AI Generatif (modalitas teks). Ini menyediakan seperangkat alat yang komprehensif untuk operasi tim biru dan tim merah dalam konteks AI generatif berbasis teks.
Berita
- Rilis pertama OllaDeck sekarang tersedia!
- Penyiapan diverifikasi dengan arsitektur AMD64, Docker untuk Desktop di Windows, WSL2 dengan Ubuntu, dan penyimpanan lokal.
Daftar isi
- Ringkasan
- Komponen Utama
- Kode Etik
- Tim Biru
- Tim Merah
- Instalasi
- Penggunaan
- Berita
- Barang yang Direncanakan
- Berkontribusi
- Lisensi
Ringkasan
OllaDeck adalah tumpukan teknologi ungu untuk keamanan Generatif AI (modalitas teks). Ini menggabungkan platform LLM, berbagai jenis database, dan alat khusus untuk operasi keamanan siber ofensif dan defensif.
Komponen Utama
- Platform LLM untuk memuat, mengelola, dan melakukan operasi LLM (misalnya, obrolan)
- Vektor, grafik, dan database tradisional untuk operasi data
- Contoh tim merah dengan alat untuk AI Generatif (modalitas teks)
- Contoh tim biru dengan alat pertahanan berbasis AI Generatif
- Contoh titik akhir untuk simulasi serangan dan pertahanan
Kode Etik
Harap dicatat bahwa proyek ini dirilis dengan Kode Etik Kontributor. Dengan berpartisipasi dalam proyek ini dan/atau mengkloning proyek, Anda setuju untuk mematuhi ketentuannya.
Tim Biru
Tim biru dalam konteks AI generatif berbasis teks berfokus pada pertahanan dan pengamanan sistem AI. Ini termasuk kegiatan seperti:
- Memantau keluaran model AI untuk mengetahui potensi kerentanan
- Menerapkan perlindungan terhadap injeksi cepat dan serangan khusus AI lainnya
- Memastikan kepatuhan terhadap pedoman dan peraturan etika AI
- Menganalisis konten yang dihasilkan AI untuk mengetahui potensi risiko keamanan
Alat Tim Biru
Saat ini, OllaDeck memiliki alat Tim Biru berikut.
Alat Dasar
- AutoGluon : Mengotomatiskan tugas pembelajaran mesin
- AutoViz : Pustaka visualisasi otomatis
- python-dateutil : Ekstensi yang kuat untuk modul datetime standar
- lxml : Perpustakaan untuk memproses XML dan HTML
Alat Pemrosesan Bahasa Alami
- PyPDF2 : manipulasi file PDF
- docx : Pustaka Python untuk membuat dan memperbarui file Microsoft Word (.docx).
- openpyxl : Pustaka Python untuk membaca/menulis file Excel
- Tesseract : Mesin Pengenalan Karakter Optik
- TextBlob : Pemrosesan teks yang disederhanakan
- Gensim : Pemodelan topik, pengindeksan dokumen, dan pengambilan kesamaan
Alat Kepatuhan
- Compliance Masonry : Alat untuk membangun dokumentasi kepatuhan
Alat Ancaman Intel
- CybOX : Bahasa terstruktur untuk observasi cyber
- STIX : Bahasa terstruktur untuk intelijen ancaman dunia maya
Tim Merah
Tim merah dalam AI generatif berbasis teks berfokus pada identifikasi kerentanan dan potensi vektor serangan dalam sistem AI. Kegiatannya meliputi:
- Membuat perintah permusuhan untuk memanipulasi keluaran AI
- Menguji ketahanan model AI terhadap berbagai teknik serangan
- Menjelajahi potensi kebocoran data atau masalah privasi dalam respons AI
- Mensimulasikan skenario serangan dunia nyata pada sistem AI
Alat Tim Merah
Saat ini, OllaDeck memiliki alat Tim Biru berikut.
- pyRIT : Perangkat otomatisasi tim merah
- TextAttack : Kerangka serangan permusuhan pada model NLP
- Kotak Alat Kekokohan Adversarial : Perpustakaan untuk keamanan pembelajaran mesin
- Garak : Pemindai kerentanan LLM
Instalasi
Untuk instruksi instalasi terperinci, silakan merujuk ke Panduan Instalasi kami.
Barang yang Direncanakan
- Tambahkan lebih banyak contoh JupyterNotebook
- Tambahkan lebih banyak kumpulan data
- Dokumentasi dan panduan pengguna yang ditingkatkan
- Tambahkan lebih banyak alat untuk operasi tim biru dan merah
Berkontribusi
Kami menyambut kontribusi ke OllaDeck! Silakan lihat Panduan Berkontribusi kami untuk informasi lebih lanjut tentang cara memulai.
Lisensi
MIT
