genai attacks

ยินดีต้อนรับสู่ GenAI Attacks Matrix!

-	GenAI Attacks Matrix เป็นแหล่งความรู้เกี่ยวกับ TTP ที่ใช้ในการกำหนดเป้าหมายระบบที่ใช้ GenAI, Copilots และ Agent

สิ่งที่คาดหวัง

GenAI กำลังถูกนำไปใช้กับทุกปัญหาเท่าที่จะจินตนาการได้ภายในธุรกิจที่ใหญ่ที่สุดในโลกในปัจจุบัน ซึ่งเราทุกคนต่างพึ่งพา เราทุกคนต่างดำเนินการอย่างรวดเร็วที่สุดเท่าที่จะเป็นไปได้เพื่อนำ AI มาใช้และเก็บเกี่ยวผลประโยชน์จากมันก่อน บริษัทต่างๆ กำลังใช้แพลตฟอร์ม AI ปรับแต่งและสร้างแพลตฟอร์มของตนเอง ในขณะเดียวกัน ก็ชัดเจนมากขึ้นว่าเรายังไม่ทราบวิธีสร้างระบบที่ปลอดภัยด้วย GenAI มีการวิจัยใหม่ๆ ออกมาทุกสัปดาห์เกี่ยวกับเทคนิคการโจมตี โมเดล และความสามารถใหม่ๆ ที่กำลังเปลี่ยนแปลงอยู่ตลอดเวลา และการบรรเทาผลกระทบก็กำลังดำเนินไปในทิศทางที่ใกล้เคียงกัน

ด้วยการให้เหตุผล GenAI ในนามของผู้ใช้ของเราด้วยข้อมูลประจำตัวของพวกเขา เราได้เปิดเวกเตอร์การโจมตีใหม่ที่ฝ่ายตรงข้ามสามารถกำหนดเป้าหมายระบบ AI ของเราแทนผู้ใช้ของเราเพื่อให้ได้ผลลัพธ์ที่คล้ายคลึงกัน พวกเขาทำมันด้วย Promptware เนื้อหาที่มีคำแนะนำที่เป็นอันตราย โดยปกติแล้ว Promptware จะไม่รันโค้ด แต่จะรันเครื่องมือและเรียบเรียงเป็นโปรแกรมด้วยภาษาธรรมชาติเพื่อให้ได้ผลลัพธ์ที่เท่าเทียมกัน

ความพยายามร่วมกันครั้งแรกของเราในการต่อสู้กับมัลแวร์คือซอฟต์แวร์ป้องกันไวรัสซึ่งพยายามระบุมัลแวร์ที่รู้จักทั้งหมดที่มีอยู่ เราใช้แนวทางเดียวกันกับพรอมต์แวร์ โดยพยายามแก้ไขปัญหาด้วยการแจกแจงพรอมต์ที่ไม่ถูกต้อง สิ่งนี้ไม่ได้ผล และการฉีดยาทันทีก็ไม่ใช่ปัญหาที่เราสามารถแก้ไขได้ แต่เป็นปัญหาที่เราจัดการได้ เมื่อเรียนรู้จาก EDR เราจำเป็นต้องนำแนวทางการป้องกันเชิงลึกมาใช้ซึ่งมุ่งเน้นไปที่พฤติกรรมที่เป็นอันตรายมากกว่าเนื้อหาคงที่ที่เป็นอันตราย เป้าหมายของโปรเจ็กต์นี้คือการบันทึกและแบ่งปันความรู้เกี่ยวกับพฤติกรรมเหล่านั้น และมองข้ามการแทรกทันทีตลอดวงจรชีวิตของการโจมตีพรอมต์แวร์

โปรเจ็กต์นี้ได้รับแรงบันดาลใจจากผลงานอันยอดเยี่ยมของผู้อื่น: MITER ATT&CK และคนอื่นๆ ที่นำแนวทางการโจมตีไปใช้กับ M365, คอนเทนเนอร์ และ SaaS ได้สำเร็จ

จะสนับสนุนเนื้อหาได้อย่างไร?

	คุณสามารถแก้ไขไฟล์ .json หรือสร้างไฟล์ใหม่ได้โดยตรงในเบราว์เซอร์ของคุณเพื่อมีส่วนร่วมได้อย่างง่ายดาย!

ปรับปรุงฐานความรู้ของเราโดยการแก้ไขหรือเพิ่มไฟล์ภายในไดเร็กทอรีเหล่านี้:

 |
--| tactic
--| technique
--| procedure
--| entity
--| platform
--| mitigation

สคีมาไฟล์และวิธีการทำงาน:

• การเปลี่ยนแปลงของคุณจะถูกทดสอบโดยอัตโนมัติเพื่อให้สอดคล้องกับสคีมาเมื่อมีการสร้าง PR
• เมื่อ PR รวมเข้ากับ main แล้ว เว็บไซต์จะอัปเดตอัตโนมัติภายในไม่กี่นาที
• คุณสามารถตรวจสอบไดเร็กทอรีสคีมาหรือดูไฟล์อื่นเพื่อใช้อ้างอิงได้

ข้อมูลเพิ่มเติม

ตรวจสอบแหล่งข้อมูลเพิ่มเติมและเอกสาร:

• เอกสารสำหรับนักพัฒนา
• ถามตอบ