أولاديك
OllaDeck عبارة عن حزمة تقنية أرجوانية للأمن السيبراني للذكاء الاصطناعي التوليدي (طريقة النص). يوفر مجموعة شاملة من الأدوات لعمليات الفريق الأزرق والفريق الأحمر في سياق الذكاء الاصطناعي التوليدي القائم على النص.
أخبار
- الإصدار الأول من OllaDeck متوفر الآن!
- تم التحقق من الإعداد باستخدام بنية AMD64، وDocker for Desktop على نظام التشغيل Windows، وWSL2 مع Ubuntu، والتخزين المحلي.
جدول المحتويات
- ملخص
- المكونات الرئيسية
- مدونة لقواعد السلوك
- الفريق الأزرق
- الفريق الأحمر
- تثبيت
- الاستخدام
- أخبار
- العناصر المخططة
- المساهمة
- رخصة
ملخص
OllaDeck عبارة عن حزمة تقنية أرجوانية لأمن الذكاء الاصطناعي التوليدي (طريقة النص). فهو يجمع بين منصات LLM وأنواع قواعد البيانات المختلفة والأدوات المتخصصة لعمليات الأمن السيبراني الهجومية والدفاعية.
المكونات الرئيسية
- منصات LLM لتحميل وإدارة وتنفيذ عمليات LLM (على سبيل المثال، الدردشة)
- المتجهات والرسم البياني وقواعد البيانات التقليدية لعمليات البيانات
- مثيل الفريق الأحمر مع أدوات الذكاء الاصطناعي التوليدي (طريقة النص)
- مثيل الفريق الأزرق مع أدوات الدفاع المبنية على الذكاء الاصطناعي
- نموذج لنقاط النهاية للهجمات والدفاعات المحاكاة
مدونة لقواعد السلوك
يرجى ملاحظة أن هذا المشروع تم إصداره مع قواعد سلوك المساهمين. من خلال المشاركة في هذا المشروع و/أو استنساخ المشروع، فإنك توافق على الالتزام بشروطه.
الفريق الأزرق
يركز الفريق الأزرق في سياق الذكاء الاصطناعي التوليدي القائم على النصوص على الدفاع عن أنظمة الذكاء الاصطناعي وتأمينها. وهذا يشمل أنشطة مثل:
- مراقبة مخرجات نموذج الذكاء الاصطناعي بحثًا عن نقاط الضعف المحتملة
- تنفيذ ضمانات ضد الحقن الفوري والهجمات الأخرى الخاصة بالذكاء الاصطناعي
- ضمان الامتثال للمبادئ التوجيهية واللوائح الأخلاقية للذكاء الاصطناعي
- تحليل المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بحثًا عن المخاطر الأمنية المحتملة
أدوات الفريق الأزرق
حاليًا، لدى OllaDeck أدوات الفريق الأزرق التالية.
الأدوات التأسيسية
- AutoGluon : يقوم بأتمتة مهام التعلم الآلي
- AutoViz : مكتبة التصور الآلي
- python-dateutil : امتدادات قوية لوحدة التاريخ والوقت القياسية
- lxml : مكتبة لمعالجة XML وHTML
أدوات معالجة اللغات الطبيعية
- PyPDF2 : معالجة ملفات PDF
- docx : مكتبة Python لإنشاء وتحديث ملفات Microsoft Word (.docx).
- openpyxl : مكتبة بايثون لقراءة/كتابة ملفات Excel
- Tesseract : محرك التعرف البصري على الحروف
- TextBlob : معالجة نص مبسطة
- Gensim : نمذجة الموضوع وفهرسة المستندات واسترجاع التشابه
أدوات الامتثال
- الماسونية الامتثال : أداة لبناء وثائق الامتثال
أدوات التهديد إنتل
- CybOX : لغة منظمة للأشياء التي يمكن ملاحظتها عبر الإنترنت
- STIX : لغة منظمة لاستخبارات التهديدات السيبرانية
الفريق الأحمر
يركز الفريق الأحمر في الذكاء الاصطناعي التوليدي القائم على النصوص على تحديد نقاط الضعف ونواقل الهجوم المحتملة في أنظمة الذكاء الاصطناعي. تشمل الأنشطة:
- صياغة الخصومة تطالب بالتلاعب بمخرجات الذكاء الاصطناعي
- اختبار قوة نموذج الذكاء الاصطناعي ضد تقنيات الهجوم المختلفة
- استكشاف تسرب البيانات المحتمل أو المخاوف المتعلقة بالخصوصية في استجابات الذكاء الاصطناعي
- محاكاة سيناريوهات الهجوم في العالم الحقيقي على أنظمة الذكاء الاصطناعي
أدوات الفريق الأحمر
حاليًا، لدى OllaDeck أدوات الفريق الأزرق التالية.
- pyRIT : مجموعة أدوات أتمتة الفريق الأحمر
- TextAttack : إطار عمل للهجمات العدائية على نماذج البرمجة اللغوية العصبية
- صندوق أدوات المتانة العدائية : مكتبة لأمن التعلم الآلي
- Garak : ماسح الثغرات الأمنية في LLM
تثبيت
للحصول على تعليمات التثبيت التفصيلية، يرجى الرجوع إلى دليل التثبيت الخاص بنا.
العناصر المخططة
- أضف المزيد من أمثلة JupyterNotebook
- إضافة المزيد من مجموعات البيانات
- وثائق وأدلة مستخدم محسنة
- أضف المزيد من الأدوات لعمليات الفريق باللونين الأزرق والأحمر
المساهمة
نحن نرحب بالمساهمات في OllaDeck! يرجى الاطلاع على دليل المساهمة الخاص بنا للحصول على مزيد من المعلومات حول كيفية البدء.
رخصة
معهد ماساتشوستس للتكنولوجيا
