AIF360

AI ยุติธรรม 360 (AIF360)

ชุดเครื่องมือ AI Fairness 360 เป็นไลบรารีโอเพ่นซอร์สที่ขยายได้ ซึ่งประกอบด้วยเทคนิคที่พัฒนาโดยชุมชนการวิจัย เพื่อช่วยตรวจจับและลดอคติในโมเดลการเรียนรู้ของเครื่องตลอดวงจรชีวิตของแอปพลิเคชัน AI แพ็คเกจ AI Fairness 360 มีให้เลือกทั้ง Python และ R

แพ็คเกจ AI Fairness 360 ประกอบด้วย

1. ชุดเมตริกที่ครอบคลุมสำหรับชุดข้อมูลและแบบจำลองเพื่อทดสอบอคติ
2. คำอธิบายสำหรับตัวชี้วัดเหล่านี้ และ
3. อัลกอริธึมเพื่อลดอคติในชุดข้อมูลและแบบจำลอง ได้รับการออกแบบมาเพื่อแปลการวิจัยอัลกอริทึมจากห้องปฏิบัติการไปสู่การปฏิบัติจริงในขอบเขตที่หลากหลาย เช่น การเงิน การจัดการทุนมนุษย์ การดูแลสุขภาพ และการศึกษา เราขอเชิญชวนให้คุณใช้มันและปรับปรุงมัน

ประสบการณ์แบบโต้ตอบของ AI Fairness 360 มอบการแนะนำแนวคิดและความสามารถอย่างอ่อนโยน บทช่วยสอนและสมุดบันทึกอื่นๆ นำเสนอคำแนะนำเชิงลึกที่เน้นนักวิทยาศาสตร์ข้อมูล API ที่สมบูรณ์ก็มีให้เช่นกัน

เนื่องจากเป็นชุดความสามารถที่ครอบคลุม จึงอาจทำให้เกิดความสับสนในการพิจารณาว่าเมตริกและอัลกอริทึมใดเหมาะสมที่สุดสำหรับกรณีการใช้งานที่กำหนด เพื่อช่วยเราได้จัดทำเอกสารคำแนะนำที่สามารถปรึกษาได้

เราได้พัฒนาแพ็คเกจโดยคำนึงถึงความสามารถในการขยายการใช้งาน ห้องสมุดนี้ยังอยู่ในการพัฒนา เราสนับสนุนการมีส่วนร่วมของตัวชี้วัด ผู้อธิบาย และอัลกอริธึมการลดอคติของคุณ

ติดต่อเราได้ที่ Slack (เชิญที่นี่)!

อัลกอริธึมการลดอคติที่รองรับ

• เพิ่มประสิทธิภาพการประมวลผลล่วงหน้า (Calmon et al., 2017)
• เครื่องกำจัดผลกระทบที่แตกต่างกัน (Feldman et al., 2015)
• การประมวลผลภายหลังอัตราต่อรองที่เท่ากัน (Hardt et al., 2016)
• การชั่งน้ำหนักใหม่ (Kamiran และ Calders, 2012)
• ปฏิเสธการจำแนกตัวเลือก (Kamiran et al., 2012)
• เครื่องกำจัดอคติ (Kamishima et al., 2012)
• ปรับเทียบอัตราต่อรองที่เท่าเทียมกันภายหลังการประมวลผล (Pleiss et al., 2017)
• การนำเสนออย่างยุติธรรมในการเรียนรู้ (Zemel et al., 2013)
• การ Debiasing ฝ่ายตรงข้าม (Zhang et al., 2018)
• Meta-Algorithm สำหรับการจำแนกประเภทที่ยุติธรรม (Celis et al., 2018)
• ความเป็นธรรมของกลุ่มย่อยที่หลากหลาย (Kearns, Neel, Roth, Wu, 2018)
• การลดการไล่ระดับสีแบบเอ็กซ์โปเนนเชียล (Agarwal et al., 2018)
• การลดการค้นหาตาราง (Agarwal et al., 2018, Agarwal et al., 2019)
• การปรับข้อมูลที่เป็นธรรม (Plečko และ Meinshausen, 2020, Plečko et al., 2021)
• ความแปรปรวนของชุดที่ละเอียดอ่อน/ความทนทานของพื้นที่ย่อยที่ละเอียดอ่อน (Yurochkin และ Sun, 2020, Yurochkin et al., 2019)

รองรับการวัดความเป็นธรรม

• ชุดเมตริกความยุติธรรมของกลุ่มที่ครอบคลุมซึ่งได้มาจากอัตราการเลือกและอัตราข้อผิดพลาด รวมถึงความยุติธรรมของกลุ่มย่อยที่หลากหลาย
• ชุดเมตริกการบิดเบือนตัวอย่างที่ครอบคลุม
• ดัชนีเอนโทรปีทั่วไป (Speicher et al., 2018)
• ความเป็นธรรมที่แตกต่างและการขยายอคติ (Foulds et al., 2018)
• การสแกนอคติด้วยการสแกนเซตย่อยหลายมิติ (Zhang, Neill, 2017)

ตั้งค่า

ร

install.packages( " aif360 " )

สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับการตั้งค่า R โปรดดูคำแนะนำที่นี่

หลาม

การกำหนดค่า Python ที่รองรับ:

ระบบปฏิบัติการ	เวอร์ชันหลาม
ระบบปฏิบัติการ macOS	3.8 – 3.11
อูบุนตู	3.8 – 3.11
หน้าต่าง	3.8 – 3.11

(ไม่บังคับ) สร้างสภาพแวดล้อมเสมือน

AIF360 ต้องการแพ็คเกจ Python หลายเวอร์ชันเฉพาะซึ่งอาจขัดแย้งกับโปรเจ็กต์อื่น ๆ ในระบบของคุณ ขอแนะนำอย่างยิ่งให้ใช้เครื่องมือจัดการสภาพแวดล้อมเสมือนเพื่อให้แน่ใจว่าการติดตั้งการขึ้นต่อกันได้อย่างปลอดภัย หากคุณมีปัญหาในการติดตั้ง AIF360 ให้ลองทำเช่นนี้ก่อน

คอนดา

แนะนำให้ใช้ Conda สำหรับการกำหนดค่าทั้งหมด แม้ว่าโดยทั่วไปแล้ว Virtualenv จะสามารถใช้แทนกันได้สำหรับวัตถุประสงค์ของเรา Miniconda ก็เพียงพอแล้ว (ดูความแตกต่างระหว่าง Anaconda และ Miniconda หากคุณสงสัย) หากคุณยังไม่ได้ติดตั้ง conda

จากนั้น หากต้องการสร้างสภาพแวดล้อม Python 3.11 ใหม่ ให้รัน:

conda create --name aif360 python=3.11
conda activate aif360

ตอนนี้เปลือกควรมีลักษณะดังนี้ (aif360) $ หากต้องการปิดใช้งานสภาพแวดล้อม ให้รัน:

(aif360)$ conda deactivate

พรอมต์จะกลับไปที่ $

ติดตั้งด้วย pip

หากต้องการติดตั้งเวอร์ชันเสถียรล่าสุดจาก PyPI ให้รัน:

pip install aif360

หมายเหตุ: อัลกอริธึมบางตัวจำเป็นต้องมีการขึ้นต่อกันเพิ่มเติม (แม้ว่าการวัดทั้งหมดจะทำงานนอกกรอบก็ตาม) หากต้องการติดตั้งโดยมีการขึ้นต่อกันของอัลกอริธึม ให้รัน เช่น:

pip install ' aif360[LFR,OptimPreproc] '

หรือเพื่อการทำงานที่สมบูรณ์ ให้รัน:

pip install ' aif360[all] '

ตัวเลือกสำหรับบริการพิเศษที่มีได้แก่: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all

หากคุณพบข้อผิดพลาดใดๆ ให้ลองทำตามขั้นตอนการแก้ปัญหา

การติดตั้งด้วยตนเอง

โคลนเวอร์ชันล่าสุดของที่เก็บนี้:

git clone https://github.com/Trusted-AI/AIF360

หากคุณต้องการเรียกใช้ตัวอย่าง ให้ดาวน์โหลดชุดข้อมูลทันทีและวางลงในโฟลเดอร์ที่เกี่ยวข้องตามที่อธิบายไว้ใน aif360/data/README.md

จากนั้นไปที่ไดเร็กทอรีรากของโปรเจ็กต์แล้วรัน:

pip install --editable ' .[all] ' 

เรียกใช้ตัวอย่าง

หากต้องการเรียกใช้โน้ตบุ๊กตัวอย่าง ให้ทำตามขั้นตอนการติดตั้งด้วยตนเองข้างต้น จากนั้น หากคุณไม่ได้ใช้ตัวเลือก [all] ให้ติดตั้งข้อกำหนดเพิ่มเติมดังต่อไปนี้:

pip install -e ' .[notebooks] '

สุดท้ายนี้ หากคุณยังไม่ได้ดาวน์โหลด ให้ดาวน์โหลดชุดข้อมูลตามที่อธิบายไว้ใน aif360/data/README.md

การแก้ไขปัญหา

หากคุณพบข้อผิดพลาดใดๆ ในระหว่างขั้นตอนการติดตั้ง ให้ค้นหาปัญหาของคุณที่นี่ และลองวิธีแก้ไข

เทนเซอร์โฟลว์

ดูหน้าติดตั้ง TensorFlow ด้วย pip สำหรับคำแนะนำโดยละเอียด

หมายเหตุ: เราต้องการ 'tensorflow >= 1.13.1'

เมื่อติดตั้ง tensorflow แล้ว ให้ลองรันใหม่อีกครั้ง:

pip install ' aif360[AdversarialDebiasing] '

TensorFlow จำเป็นสำหรับใช้กับคลาส aif360.algorithms.inprocessing.AdversarialDebiasing เท่านั้น

CVXPY

บน MacOS คุณอาจต้องติดตั้ง Xcode Command Line Tools ก่อน หากคุณไม่เคยติดตั้งมาก่อน:

xcode-select --install

บน Windows คุณอาจต้องดาวน์โหลด Microsoft C++ Build Tools สำหรับ Visual Studio 2019 ดูหน้าการติดตั้ง CVXPY สำหรับคำแนะนำล่าสุด

จากนั้นลองติดตั้งใหม่ผ่าน:

pip install ' aif360[OptimPreproc] '

CVXPY จำเป็นสำหรับใช้กับคลาส aif360.algorithms.preprocessing.OptimPreproc เท่านั้น

การใช้ AIF360

ไดเรกทอรี examples ประกอบด้วยคอลเลกชันสมุดบันทึก jupyter ที่หลากหลายซึ่งใช้ AI Fairness 360 ในรูปแบบต่างๆ ทั้งบทช่วยสอนและการสาธิตแสดงโค้ดการทำงานโดยใช้ AIF360 บทช่วยสอนให้การอภิปรายเพิ่มเติมที่จะแนะนำผู้ใช้ผ่านขั้นตอนต่างๆ ของสมุดบันทึก ดูรายละเอียดเกี่ยวกับบทช่วยสอนและการสาธิตที่นี่

อ้างถึง AIF360

คำอธิบายทางเทคนิคของ AI Fairness 360 มีอยู่ในบทความนี้ ด้านล่างนี้คือรายการ bibtex สำหรับบทความนี้

 @misc{aif360-oct-2018,
    title = "{AI Fairness} 360:  An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias",
    author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and
	Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and
	Pranay Lohia and Jacquelyn Martino and Sameep Mehta and
	Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and
	John Richards and Diptikalyan Saha and Prasanna Sattigeri and
	Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
    month = oct,
    year = {2018},
    url = {https://arxiv.org/abs/1810.01943}
}

วิดีโอ AIF360

• วิดีโอแนะนำ AI Fairness 360 โดย Kush Varshney 20 กันยายน 2018 (32 นาที)

มีส่วนร่วม

ทางแยกการพัฒนาสำหรับ Rich Subgroup Fairness ( inprocessing/gerryfair_classifier.py ) อยู่ที่นี่ ยินดีสนับสนุนและสามารถดูรายชื่อผลงานที่เป็นไปได้จากผู้เขียนได้ ที่นี่