AI Fairness 360 工具包是一个可扩展的开源库,其中包含研究社区开发的技术,可帮助检测和减轻整个 AI 应用程序生命周期中机器学习模型中的偏差。 AI Fairness 360 包在 Python 和 R 中均可用。
AI Fairness 360 套餐包括
AI Fairness 360 互动体验对概念和功能进行了温和的介绍。这些教程和其他笔记本提供了更深入、面向数据科学家的介绍。完整的 API 也可用。
作为一组全面的功能,确定哪些指标和算法最适合给定用例可能会令人困惑。为了提供帮助,我们创建了一些可供参考的指导材料。
我们开发该软件包时考虑到了可扩展性。该库仍在开发中。我们鼓励您贡献指标、解释器和去偏算法。
在 Slack 上与我们联系(此处为邀请)!
install.packages( " aif360 " )
有关 R 设置的更多详细信息,请参阅此处的说明。
支持的 Python 配置:
操作系统 | Python版本 |
---|---|
macOS | 3.8 – 3.11 |
乌班图 | 3.8 – 3.11 |
视窗 | 3.8 – 3.11 |
AIF360 需要许多 Python 包的特定版本,这可能与系统上的其他项目冲突。强烈建议使用虚拟环境管理器来确保安全安装依赖项。如果您在安装 AIF360 时遇到问题,请先尝试此操作。
尽管 Virtualenv 通常可以互换用于我们的目的,但建议将 Conda 用于所有配置。如果您尚未安装 conda,Miniconda 就足够了(如果您好奇,请参阅 Anaconda 和 Miniconda 之间的区别)。
然后,要创建新的 Python 3.11 环境,请运行:
conda create --name aif360 python=3.11
conda activate aif360
shell 现在应该看起来像(aif360) $
。要停用环境,请运行:
(aif360)$ conda deactivate
提示符将返回$
。
pip
安装要从 PyPI 安装最新的稳定版本,请运行:
pip install aif360
注意:某些算法需要额外的依赖项(尽管指标都可以开箱即用)。要安装包含某些算法依赖项的版本,请运行,例如:
pip install ' aif360[LFR,OptimPreproc] '
或者,为了获得完整的功能,请运行:
pip install ' aif360[all] '
可用附加功能的选项有: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all
如果遇到任何错误,请尝试故障排除步骤。
克隆此存储库的最新版本:
git clone https://github.com/Trusted-AI/AIF360
如果您想运行示例,请立即下载数据集并将它们放置在各自的文件夹中,如 aif360/data/README.md 中所述。
然后,导航到项目的根目录并运行:
pip install --editable ' .[all] '
要运行示例笔记本,请完成上述手动安装步骤。然后,如果您没有使用[all]
选项,请安装附加要求,如下所示:
pip install -e ' .[notebooks] '
最后,如果您还没有下载数据集,请按照 aif360/data/README.md 中的说明下载数据集。
如果您在安装过程中遇到任何错误,请在此处查找您的问题并尝试解决方案。
有关详细说明,请参阅使用 pip 安装 TensorFlow 页面。
注意:我们需要'tensorflow >= 1.13.1'
。
安装完tensorflow后,尝试重新运行:
pip install ' aif360[AdversarialDebiasing] '
仅在与aif360.algorithms.inprocessing.AdversarialDebiasing
类一起使用时才需要 TensorFlow。
在 MacOS 上,如果您以前从未安装过,则可能首先必须安装 Xcode 命令行工具:
xcode-select --install
在 Windows 上,您可能需要下载适用于 Visual Studio 2019 的 Microsoft C++ 构建工具。有关最新说明,请参阅 CVXPY 安装页面。
然后,尝试通过以下方式重新安装:
pip install ' aif360[OptimPreproc] '
CVXPY 仅需要与aif360.algorithms.preprocessing.OptimPreproc
类一起使用。
examples
目录包含各种 jupyter 笔记本集合,它们以各种方式使用 AI Fairness 360。教程和演示都说明了使用 AIF360 的工作代码。教程提供了额外的讨论,引导用户完成笔记本的各个步骤。请在此处查看有关教程和演示的详细信息
本文提供了 AI Fairness 360 的技术描述。以下是本文的 bibtex 条目。
@misc{aif360-oct-2018,
title = "{AI Fairness} 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias",
author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and
Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and
Pranay Lohia and Jacquelyn Martino and Sameep Mehta and
Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and
John Richards and Diptikalyan Saha and Prasanna Sattigeri and
Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
month = oct,
year = {2018},
url = {https://arxiv.org/abs/1810.01943}
}
Rich Subgroup Fairness 的开发分支 ( inprocessing/gerryfair_classifier.py
) 位于此处。欢迎贡献,可以在此处找到作者的潜在贡献列表。