AIF360
v0.6.1
Das AI Fairness 360-Toolkit ist eine erweiterbare Open-Source-Bibliothek mit Techniken, die von der Forschungsgemeinschaft entwickelt wurden, um Verzerrungen in Modellen für maschinelles Lernen während des gesamten Lebenszyklus von KI-Anwendungen zu erkennen und zu mildern. Das AI Fairness 360-Paket ist sowohl in Python als auch in R verfügbar.
Das AI Fairness 360-Paket beinhaltet
Das interaktive AI Fairness 360-Erlebnis bietet eine sanfte Einführung in die Konzepte und Funktionen. Die Tutorials und anderen Notebooks bieten eine tiefergehende, auf Datenwissenschaftler ausgerichtete Einführung. Die vollständige API ist ebenfalls verfügbar.
Da es sich um einen umfassenden Funktionsumfang handelt, kann es verwirrend sein, herauszufinden, welche Metriken und Algorithmen für einen bestimmten Anwendungsfall am besten geeignet sind. Um Ihnen dabei zu helfen, haben wir einige Leitfäden erstellt, die Sie konsultieren können.
Wir haben das Paket unter Berücksichtigung der Erweiterbarkeit entwickelt. Diese Bibliothek befindet sich noch in der Entwicklung. Wir fördern den Beitrag Ihrer Metriken, Erklärungen und Entzerrungsalgorithmen.
Kontaktieren Sie uns auf Slack (Einladung hier)!
install.packages( " aif360 " )Weitere Einzelheiten zum R-Setup finden Sie in den Anweisungen hier.
Unterstützte Python-Konfigurationen:
| Betriebssystem | Python-Version |
|---|---|
| macOS | 3.8 – 3.11 |
| Ubuntu | 3.8 – 3.11 |
| Windows | 3.8 – 3.11 |
AIF360 erfordert bestimmte Versionen vieler Python-Pakete, die möglicherweise mit anderen Projekten auf Ihrem System in Konflikt geraten. Ein virtueller Umgebungsmanager wird dringend empfohlen, um sicherzustellen, dass Abhängigkeiten sicher installiert werden können. Wenn Sie Probleme bei der Installation von AIF360 haben, versuchen Sie es zuerst.
Conda wird für alle Konfigurationen empfohlen, obwohl Virtualenv für unsere Zwecke im Allgemeinen austauschbar ist. Miniconda ist ausreichend (sehen Sie sich den Unterschied zwischen Anaconda und Miniconda an, wenn Sie neugierig sind), wenn Sie Conda noch nicht installiert haben.
Führen Sie dann Folgendes aus, um eine neue Python 3.11-Umgebung zu erstellen:
conda create --name aif360 python=3.11
conda activate aif360 Die Shell sollte jetzt wie folgt aussehen: (aif360) $ . Um die Umgebung zu deaktivieren, führen Sie Folgendes aus:
(aif360)$ conda deactivate Die Eingabeaufforderung kehrt zu $ zurück.
pip installierenUm die neueste stabile Version von PyPI zu installieren, führen Sie Folgendes aus:
pip install aif360Hinweis: Einige Algorithmen erfordern zusätzliche Abhängigkeiten (obwohl alle Metriken sofort funktionieren). Um bestimmte Algorithmusabhängigkeiten zu installieren, führen Sie beispielsweise Folgendes aus:
pip install ' aif360[LFR,OptimPreproc] 'Oder führen Sie Folgendes aus, um die vollständige Funktionalität zu erhalten:
pip install ' aif360[all] ' Die Optionen für verfügbare Extras sind: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all
Wenn Fehler auftreten, versuchen Sie es mit den Schritten zur Fehlerbehebung.
Klonen Sie die neueste Version dieses Repositorys:
git clone https://github.com/Trusted-AI/AIF360Wenn Sie die Beispiele ausführen möchten, laden Sie die Datensätze jetzt herunter und legen Sie sie in ihren jeweiligen Ordnern ab, wie in aif360/data/README.md beschrieben.
Navigieren Sie dann zum Stammverzeichnis des Projekts und führen Sie Folgendes aus:
pip install --editable ' .[all] ' Um die Beispiel-Notebooks auszuführen, führen Sie die oben genannten manuellen Installationsschritte aus. Wenn Sie dann nicht die Option [all] verwendet haben, installieren Sie die zusätzlichen Anforderungen wie folgt:
pip install -e ' .[notebooks] 'Wenn Sie dies noch nicht getan haben, laden Sie abschließend die Datensätze herunter, wie in aif360/data/README.md beschrieben.
Wenn während des Installationsvorgangs Fehler auftreten, suchen Sie hier nach Ihrem Problem und probieren Sie die Lösungen aus.
Ausführliche Anweisungen finden Sie auf der Seite „TensorFlow mit Pip installieren“.
Hinweis: Wir benötigen 'tensorflow >= 1.13.1' .
Sobald Tensorflow installiert ist, versuchen Sie es erneut:
pip install ' aif360[AdversarialDebiasing] ' TensorFlow ist nur für die Verwendung mit der Klasse aif360.algorithms.inprocessing.AdversarialDebiasing erforderlich.
Unter MacOS müssen Sie möglicherweise zuerst die Xcode-Befehlszeilentools installieren, wenn Sie dies noch nie zuvor getan haben:
xcode-select --installUnter Windows müssen Sie möglicherweise die Microsoft C++ Build Tools für Visual Studio 2019 herunterladen. Aktuelle Anweisungen finden Sie auf der CVXPY-Installationsseite.
Versuchen Sie dann eine Neuinstallation über:
pip install ' aif360[OptimPreproc] ' CVXPY ist nur für die Verwendung mit der Klasse aif360.algorithms.preprocessing.OptimPreproc erforderlich.
Das examples enthält eine vielfältige Sammlung von Jupyter-Notebooks, die AI Fairness 360 auf verschiedene Weise nutzen. Sowohl Tutorials als auch Demos veranschaulichen funktionierenden Code mit AIF360. Tutorials bieten zusätzliche Diskussionen, die den Benutzer durch die verschiedenen Schritte des Notebooks führen. Einzelheiten zu Tutorials und Demos finden Sie hier
Eine technische Beschreibung von AI Fairness 360 finden Sie in diesem Dokument. Unten finden Sie den Bibtex-Eintrag für diesen Artikel.
@misc{aif360-oct-2018,
title = "{AI Fairness} 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias",
author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and
Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and
Pranay Lohia and Jacquelyn Martino and Sameep Mehta and
Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and
John Richards and Diptikalyan Saha and Prasanna Sattigeri and
Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
month = oct,
year = {2018},
url = {https://arxiv.org/abs/1810.01943}
}
Der Entwicklungszweig für Rich Subgroup Fairness ( inprocessing/gerryfair_classifier.py ) ist hier. Beiträge sind willkommen und eine Liste möglicher Beiträge der Autoren finden Sie hier.
