AIF360
v0.6.1
Набор инструментов AI Fairness 360 — это расширяемая библиотека с открытым исходным кодом, содержащая методы, разработанные исследовательским сообществом, которые помогают обнаруживать и смягчать предвзятость в моделях машинного обучения на протяжении всего жизненного цикла приложения ИИ. Пакет AI Fairness 360 доступен как на Python, так и на R.
Пакет AI Fairness 360 включает в себя
Интерактивный опыт AI Fairness 360 обеспечивает краткое введение в концепции и возможности. Учебные пособия и другие блокноты предлагают более глубокое введение, ориентированное на специалистов по данным. Также доступен полный API.
Поскольку это всеобъемлющий набор возможностей, может быть сложно определить, какие метрики и алгоритмы наиболее подходят для конкретного варианта использования. Чтобы помочь, мы создали некоторые руководящие материалы, с которыми можно ознакомиться.
Мы разработали пакет с учетом расширяемости. Эта библиотека все еще находится в разработке. Мы поощряем вклад ваших метрик, объяснителей и алгоритмов устранения смещений.
Свяжитесь с нами в Slack (приглашение здесь)!
install.packages( " aif360 " )Более подробную информацию о настройке R можно найти здесь.
Поддерживаемые конфигурации Python:
| ОС | Версия Python |
|---|---|
| macOS | 3,8 – 3,11 |
| Убунту | 3,8 – 3,11 |
| Окна | 3,8 – 3,11 |
Для AIF360 требуются определенные версии многих пакетов Python, которые могут конфликтовать с другими проектами в вашей системе. Настоятельно рекомендуется использовать менеджер виртуальной среды, чтобы обеспечить безопасную установку зависимостей. Если у вас возникли проблемы с установкой AIF360, попробуйте сначала это.
Conda рекомендуется для всех конфигураций, хотя Virtualenv обычно взаимозаменяем для наших целей. Miniconda достаточно (если вам интересно, посмотрите разницу между Anaconda и Miniconda), если у вас еще не установлена conda.
Затем, чтобы создать новую среду Python 3.11, запустите:
conda create --name aif360 python=3.11
conda activate aif360 Оболочка теперь должна выглядеть как (aif360) $ . Чтобы деактивировать среду, запустите:
(aif360)$ conda deactivate Приглашение вернется к $ .
pipЧтобы установить последнюю стабильную версию из PyPI, запустите:
pip install aif360Примечание. Некоторые алгоритмы требуют дополнительных зависимостей (хотя все метрики будут работать «из коробки»). Для установки с включенными определенными зависимостями алгоритма запустите, например:
pip install ' aif360[LFR,OptimPreproc] 'или, для полной функциональности, запустите:
pip install ' aif360[all] ' Доступны следующие опции: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all
Если вы столкнулись с какими-либо ошибками, попробуйте выполнить действия по устранению неполадок.
Клонируйте последнюю версию этого репозитория:
git clone https://github.com/Trusted-AI/AIF360Если вы хотите запустить примеры, загрузите наборы данных сейчас и поместите их в соответствующие папки, как описано в aif360/data/README.md.
Затем перейдите в корневой каталог проекта и запустите:
pip install --editable ' .[all] ' Чтобы запустить примеры записных книжек, выполните описанные выше действия по установке вручную. Затем, если вы не использовали опцию [all] , установите дополнительные требования следующим образом:
pip install -e ' .[notebooks] 'Наконец, если вы еще этого не сделали, загрузите наборы данных, как описано в aif360/data/README.md.
Если в процессе установки вы столкнулись с какими-либо ошибками, найдите здесь свою проблему и попробуйте решения.
Подробные инструкции см. на странице «Установка TensorFlow с помощью pip».
Примечание: нам требуется 'tensorflow >= 1.13.1' .
После установки tensorflow попробуйте перезапустить:
pip install ' aif360[AdversarialDebiasing] ' TensorFlow необходим только для использования с классом aif360.algorithms.inprocessing.AdversarialDebiasing .
В MacOS вам, возможно, сначала придется установить инструменты командной строки Xcode, если вы никогда раньше этого не делали:
xcode-select --installВ Windows вам может потребоваться загрузить инструменты сборки Microsoft C++ для Visual Studio 2019. Актуальные инструкции см. на странице установки CVXPY.
Затем попробуйте переустановить через:
pip install ' aif360[OptimPreproc] ' CVXPY требуется только для использования с классом aif360.algorithms.preprocessing.OptimPreproc .
Каталог examples содержит разнообразную коллекцию блокнотов Jupyter, в которых AI Fairness 360 используется различными способами. И учебники, и демонстрации иллюстрируют рабочий код с использованием AIF360. Учебные пособия содержат дополнительные обсуждения, которые знакомят пользователя с различными этапами работы с блокнотом. Подробности об учебных пособиях и демонстрациях см. здесь.
Техническое описание AI Fairness 360 доступно в этой статье. Ниже приведена запись в bibtex для этой статьи.
@misc{aif360-oct-2018,
title = "{AI Fairness} 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias",
author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and
Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and
Pranay Lohia and Jacquelyn Martino and Sameep Mehta and
Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and
John Richards and Diptikalyan Saha and Prasanna Sattigeri and
Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
month = oct,
year = {2018},
url = {https://arxiv.org/abs/1810.01943}
}
Вилка разработки Rich Subgroup Fairness ( inprocessing/gerryfair_classifier.py ) находится здесь. Вклады приветствуются, список потенциальных вкладов авторов можно найти здесь.
