MindArmour เวอร์ชัน 1.9.1
1.9.1
MindArmour มุ่งเน้นไปที่ปัญหาด้านความปลอดภัยและความเป็นส่วนตัวของ AI มุ่งมั่นที่จะเพิ่มความปลอดภัยและความน่าเชื่อถือของโมเดลและปกป้องความเป็นส่วนตัวของข้อมูลผู้ใช้ โดยส่วนใหญ่ประกอบด้วย 3 โมดูล ได้แก่ โมดูลความทนทานของตัวอย่างที่ขัดแย้งกัน โมดูลการทดสอบ Fuzz และโมดูลการปกป้องความเป็นส่วนตัวและการประเมินผล
โมดูลความทนทานตัวอย่างที่ขัดแย้งกันใช้เพื่อประเมินความทนทานของแบบจำลองต่อตัวอย่างที่ขัดแย้งกัน และจัดเตรียมวิธีการเพิ่มประสิทธิภาพแบบจำลองเพื่อเพิ่มความสามารถของแบบจำลองในการต้านทานการโจมตีตัวอย่างที่ขัดแย้งกัน และปรับปรุงความทนทานของแบบจำลอง โมดูลความทนทานของตัวอย่างที่ขัดแย้งกันประกอบด้วยโมดูลย่อยสี่โมดูล: การสร้างตัวอย่างที่ขัดแย้งกัน การตรวจหาตัวอย่างที่ขัดแย้งกัน การป้องกันแบบจำลอง และการประเมินการโจมตีและการป้องกัน
แผนภาพสถาปัตยกรรมของโมดูลความทนทานตัวอย่างที่ขัดแย้งกันมีดังนี้:
โมดูลการทดสอบ Fuzz เป็นการทดสอบความปลอดภัยสำหรับโมเดล AI ตามลักษณะของโครงข่ายประสาทเทียม การครอบคลุมของเซลล์ประสาทถูกนำมาใช้เป็นแนวทางสำหรับการทดสอบ Fuzz โดยชี้แนะให้ Fuzzer สร้างตัวอย่างในทิศทางที่เพิ่มความครอบคลุมของเซลล์ประสาท เพื่อให้อินพุต สามารถเปิดใช้งาน Neurons ได้มากขึ้นด้วยการกระจายค่าของเซลล์ประสาทที่กว้างขึ้นเพื่อทดสอบโครงข่ายประสาทเทียมอย่างเต็มที่และสำรวจผลลัพธ์ของแบบจำลองประเภทต่างๆ และพฤติกรรมที่ผิดพลาด
แผนภาพสถาปัตยกรรมของโมดูลการทดสอบ Fuzz มีดังนี้
โมดูลการคุ้มครองความเป็นส่วนตัวประกอบด้วยการฝึกอบรมความเป็นส่วนตัวที่แตกต่างกันและการประเมินการรั่วไหลของความเป็นส่วนตัว
การฝึกอบรมความเป็นส่วนตัวที่แตกต่างกันรวมถึงเครื่องมือเพิ่มประสิทธิภาพความเป็นส่วนตัวแบบไดนามิกหรือไม่ใช่แบบไดนามิก SGD โมเมนตัม และอดัม กลไกเสียงรบกวนรองรับการกระจายเสียงแบบเกาส์เซียนและเสียงรบกวนการกระจายความเป็นส่วนตัวของ Laplace รวมถึง ZCDP และ RDP
แผนภาพสถาปัตยกรรมของความเป็นส่วนตัวที่แตกต่างกันมีดังนี้
โมดูลการประเมินการรั่วไหลของความเป็นส่วนตัวใช้เพื่อประเมินความเสี่ยงของแบบจำลองการรั่วไหลของความเป็นส่วนตัวของผู้ใช้ วิธีการอนุมานความเป็นสมาชิกใช้เพื่ออนุมานว่าตัวอย่างเป็นของชุดข้อมูลการฝึกอบรมผู้ใช้เพื่อประเมินความปลอดภัยของข้อมูลความเป็นส่วนตัวของโมเดลการเรียนรู้เชิงลึกหรือไม่
แผนภาพกรอบการทำงานของโมดูลการประเมินการรั่วไหลของความเป็นส่วนตัวมีดังนี้:
