genai attacks
1.0.0
| ؟ | GenAI Attacks Matrix هو مصدر معرفة حول TTPs المستخدمة لاستهداف الأنظمة ومساعدي الطيارين والوكلاء المستندة إلى GenAI |
|---|
يتم تطبيق GenAI على كل مشكلة يمكن تخيلها داخل أكبر الشركات في العالم اليوم، والتي نعتمد عليها جميعًا. نحن جميعًا نتحرك بأسرع ما يمكن لتبني الذكاء الاصطناعي وجني فوائده أولاً. تتبنى الشركات منصات الذكاء الاصطناعي، وتقوم بتخصيصها وبناء منصاتها الخاصة. في موازاة ذلك، أصبح من الواضح بشكل متزايد أننا لا نعرف بعد كيفية بناء أنظمة آمنة باستخدام GenAI. يتم إصدار أبحاث جديدة كل أسبوع حول تقنيات الهجوم الجديدة والنماذج وقدراتها التي تتغير باستمرار، ويتم تنفيذ عمليات التخفيف بوتيرة مماثلة.
من خلال السماح لـ GenAI بالتفكير بالنيابة عن مستخدمينا بهوياتهم، فقد فتحنا ناقل هجوم جديدًا حيث يمكن للخصوم استهداف أنظمة الذكاء الاصطناعي لدينا بدلاً من مستخدمينا للحصول على نتائج مماثلة. يفعلون ذلك باستخدام البرامج الفورية، والمحتوى الذي يحتوي على تعليمات ضارة. لا تقوم البرامج الفورية عادةً بتنفيذ التعليمات البرمجية، وبدلاً من ذلك تقوم بتنفيذ الأدوات وتركيبها في برامج ذات لغة طبيعية للحصول على تأثير متساوٍ.
كانت محاولتنا الجماعية الأولى لمكافحة البرامج الضارة هي برنامج مكافحة الفيروسات الذي حاول تعداد كل البرامج الضارة المعروفة الموجودة هناك. لقد اتبعنا نفس الأسلوب مع البرامج السريعة، محاولين حل المشكلة عن طريق تعداد المطالبات السيئة. هذا لا يجدي نفعا، كما أن الحقن الفوري ليس مشكلة يمكننا حلها ببساطة. بدلا من ذلك، إنها مشكلة يمكننا إدارتها. ومن خلال التعلم من تقارير EDRs، نحتاج إلى اعتماد نهج دفاعي متعمق يركز على السلوك الضار بدلاً من المحتوى الثابت الضار. الهدف من هذا المشروع هو توثيق ومشاركة المعرفة حول تلك السلوكيات والنظر إلى ما هو أبعد من الحقن الفوري في دورة الحياة الكاملة لهجوم البرامج السريعة.
تم استلهام هذا المشروع من العمل الرائع الذي قام به آخرون: MITRE ATT&CK وغيرهم ممن نجحوا في تطبيق نهج الهجمات على M365 والحاويات وSaaS.
| ☝️ | يمكنك تعديل أي ملف .json أو إنشاء ملف جديد مباشرة في متصفحك للمساهمة بسهولة! |
|---|
قم بتحسين قاعدة معارفنا عن طريق تحرير أو إضافة ملفات ضمن هذه الدلائل:
|
--| tactic
--| technique
--| procedure
--| entity
--| platform
--| mitigation
مخطط الملف وكيفية عمل الأشياء:
main ، سيتم تحديث موقع الويب تلقائيًا خلال بضع دقائق.تحقق من الموارد والمستندات الإضافية:
