AIX360
v0.3.0
Набор инструментов AI Объяснение 360 — это библиотека с открытым исходным кодом, которая поддерживает интерпретируемость и объяснимость наборов данных и моделей машинного обучения. Пакет AI Объяснение 360 Python включает в себя комплексный набор алгоритмов, которые охватывают различные аспекты объяснений, а также косвенные показатели объяснимости. Набор инструментов AI Объяснение 360 поддерживает данные в виде таблиц, текста, изображений и временных рядов.
Интерактивный опыт AI Объяснение 360 обеспечивает краткое введение в концепции и возможности, рассматривая примерные варианты использования для различных категорий потребителей. Учебные пособия и блокноты с примерами предлагают более глубокое введение, ориентированное на специалистов по данным. Также доступен полный API.
Не существует единого подхода к объяснению, который работал бы лучше всего. Существует много способов объяснения: данные или модель, непосредственно интерпретируемое или апостериорное объяснение, локальное или глобальное объяснение и т. д. Поэтому может быть сложно выяснить, какие алгоритмы наиболее подходят для данного варианта использования. Чтобы помочь, мы создали некоторые руководящие материалы и дерево таксономии, с которым можно ознакомиться.
Мы разработали пакет с учетом расширяемости. Эта библиотека все еще находится в разработке. Мы рекомендуем вам поделиться своими алгоритмами объяснимости, метриками и вариантами использования. Чтобы начать работу в качестве участника, присоединитесь к сообществу AI Объяснение 360 на Slack, запросив приглашение здесь. Пожалуйста, ознакомьтесь с инструкциями по добавлению кода и блокнотов Python здесь.
| Ключевое слово установки | Объяснитель(и) | ОС | Версия Python |
|---|---|---|---|
| кофрнет | кофрнет | macOS, Убунту, Windows | 3.10 |
| контрастный | сем, cem_maf | macOS, Убунту, Windows | 3.6 |
| дипве | дипве | macOS, Убунту, Windows | 3.10 |
| GCE | GCE | macOS, Убунту, Windows | 3.10 |
| сертифицировать | сертифицировать | macOS, Убунту, Windows | 3.10 |
| ИМД | ИМД | macOS, Убунту | 3.10 |
| лайм | лайм | macOS, Убунту, Windows | 3.10 |
| соответствие | соответствие | macOS, Убунту, Windows | 3.10 |
| неконтрастный | неконтрастный | macOS, Убунту, Windows | 3.10 |
| прибыль | прибыль | macOS, Убунту, Windows | 3.6 |
| протодаша | протодаша | macOS, Убунту, Windows | 3.10 |
| РБМ | брцг, глрм | macOS, Убунту, Windows | 3.10 |
| rule_induction | потрошитель | macOS, Убунту, Windows | 3.10 |
| форма | форма | macOS, Убунту, Windows | 3.6 |
| Тед | Тед | macOS, Убунту, Windows | 3.10 |
| цице | цице | macOS, Убунту, Windows | 3.10 |
| тслайм | тслайм | macOS, Убунту, Windows | 3.10 |
| значимость | значимость | macOS, Убунту, Windows | 3.10 |
Для AI Объяснение 360 требуются определенные версии многих пакетов Python, которые могут конфликтовать с другими проектами в вашей системе. Настоятельно рекомендуется использовать менеджер виртуальной среды, чтобы обеспечить безопасную установку зависимостей. Если у вас возникли проблемы с установкой набора инструментов, попробуйте сначала это.
Conda рекомендуется для всех конфигураций, хотя Virtualenv обычно взаимозаменяем для наших целей. Miniconda достаточно (если вам интересно, посмотрите разницу между Anaconda и Miniconda), и ее можно установить отсюда, если у вас ее еще нет.
Затем создайте новую среду Python на основе алгоритмов объяснительности, которые вы хотите использовать, сверившись с таблицей выше. Например, для Python 3.10 используйте следующую команду:
conda create --name aix360 python=3.10
conda activate aix360 Теперь оболочка должна выглядеть так (aix360) $ . Чтобы деактивировать среду, запустите:
(aix360)$ conda deactivate Приглашение вернется к $ или (base)$ .
Примечание. В более старых версиях conda можно использовать source activate aix360 и source deactivate ( activate aix360 и deactivate в Windows).
Клонируйте последнюю версию этого репозитория:
(aix360)$ git clone https://github.com/Trusted-AI/AIX360Если вы хотите запустить примеры и учебные блокноты, загрузите наборы данных сейчас и поместите их в соответствующие папки, как описано в aix360/data/README.md.
Затем перейдите в корневой каталог проекта, который содержит файл setup.py , и запустите:
(aix360)$ pip install -e .[ < algo 1> , < algo 2> , ...] Приведенная выше команда устанавливает пакеты, необходимые для определенных алгоритмов. Здесь <algo> относится к ключевому слову установки в таблице выше. Например, для установки пакетов, необходимых для алгоритмов BRCG, DIPVAE и TSICE, можно использовать
(aix360)$ pip install -e .[rbm,dipvae,tsice] Команда по умолчанию pip install . устанавливает только зависимости по умолчанию.
Обратите внимание, что вы не сможете установить два алгоритма, которым требуются разные версии Python, в одной и той же среде (например, contrastive вместе с rbm ).
Если у вас возникнут какие-либо проблемы, попробуйте обновить pip и setuptools и удалите все предыдущие версии aix360, прежде чем повторить описанный выше шаг.
(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360Если вы хотите быстро начать использовать набор инструментов AI объяснимость 360 без явного клонирования этого репозитория, вы можете использовать один из этих вариантов:
(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[ < algo 1> , < algo 2> ,...] Например, используйте pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice] для установки BRCG, DIPVAE и TSICE. Возможно, вам придется установить cmake , если он еще не установлен в вашей среде, с помощью conda install cmake .
(your environment)$ pip install aix360Если вы выберете любой из этих двух вариантов, вам нужно будет отдельно загрузить блокноты, доступные в папке примеров.
Набор инструментов AI Объяснение 360 протестирован на Windows, MacOS и Linux. Однако, если вы по-прежнему сталкиваетесь с проблемами установки из-за зависимостей пакетов, попробуйте установить соответствующий пакет через conda (например, conda install package-name), а затем установите набор инструментов, выполнив обычные шаги. Например, если во время установки вы столкнулись с проблемами, связанными с pygraphviz, используйте conda install pygraphviz , а затем установите набор инструментов.
Пожалуйста, используйте правильную среду Python, основанную на таблице выше.
AIX360 создайте образ контейнера из Dockerfile, используя docker build -t aix360_docker .docker run -it -p 8888:8888 aix360_docker:latest bash предполагая, что порт 8888 на вашем компьютере свободен.jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browserlocalhost:8888 Каталог examples содержит разнообразную коллекцию блокнотов Jupyter, которые различными способами используют AI Объяснение 360. И примеры, и учебные тетради иллюстрируют рабочий код с использованием этого набора инструментов. Учебные пособия содержат дополнительные обсуждения, которые знакомят пользователя с различными этапами работы с блокнотом. Подробности об уроках и примерах см. здесь.
Если вы используете AI Объяснение 360 для своей работы, мы рекомендуем вам
@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}
Поставьте звездочку этому репозиторию.
Поделитесь своими историями успеха с нами и другими участниками сообщества AI Объяснение 360.
AIX360 построен с помощью нескольких пакетов с открытым исходным кодом. Все они перечислены в setup.py, и некоторые из них включают в себя:
Для получения информации о лицензии просмотрите файл ЛИЦЕНЗИИ и папку дополнительной лицензии, расположенную в корневом каталоге.
