alibi

Другой исходный код

v0.9.6

Скачать

Статус сборки

Alibi — это библиотека Python, предназначенная для проверки и интерпретации моделей машинного обучения. Цель библиотеки — предоставить высококачественные реализации методов «черного ящика», «белого ящика», локального и глобального объяснения для моделей классификации и регрессии.

Документация

Если вас интересует обнаружение выбросов, дрейф концепций или обнаружение состязательных экземпляров, ознакомьтесь с нашим дочерним проектом alibi-detect.

Привязка пояснений к изображениям	Интегрированные градиенты для текста
Контрфактические примеры	Накопленные локальные эффекты

Установка и использование

Алиби можно установить из:

Исходный код PyPI или GitHub (с pip )
Анаконда (с conda / mamba )

С пипсом

Alibi можно установить из PyPI:
```
pip install alibi
```
Альтернативно можно установить версию для разработчиков:
```
pip install git+https://github.com/SeldonIO/alibi.git 
```
Чтобы воспользоваться преимуществами распределенного вычисления объяснений, установите alibi с помощью ray :
```
pip install alibi[ray]
```
Для поддержки SHAP установите alibi следующим образом:
```
pip install alibi[shap]
```

С кондой

Для установки из conda-forge рекомендуется использовать mamba, которую можно установить в базовую среду conda с помощью:

conda install mamba -n base -c conda-forge

Для стандартной установки Алиби:
```
mamba install -c conda-forge alibi
```
Для поддержки распределенных вычислений:
```
mamba install -c conda-forge alibi ray
```
Для поддержки SHAP:
```
mamba install -c conda-forge alibi shap
```

Использование

API объяснения алиби основан на scikit-learn и состоит из отдельных шагов инициализации, подгонки и объяснения. Мы будем использовать объяснитель AnchorTabular для иллюстрации API:

 from alibi . explainers import AnchorTabular

# initialize and fit explainer by passing a prediction function and any other required arguments
explainer = AnchorTabular ( predict_fn , feature_names = feature_names , category_map = category_map )
explainer . fit ( X_train )

# explain an instance
explanation = explainer . explain ( x )

Возвращаемое объяснение представляет собой объект Explanation с атрибутами meta и data . meta — это словарь, содержащий метаданные объяснителя, а также любые гиперпараметры и data . Это словарь, содержащий все, что связано с вычисленным объяснением. Например, для алгоритма Anchor доступ к объяснению можно получить через explanation.data['anchor'] (или explanation.anchor ). Точная информация о доступных полях варьируется от метода к методу, поэтому мы рекомендуем читателю ознакомиться с типами поддерживаемых методов.

Поддерживаемые методы

В следующих таблицах суммированы возможные варианты использования каждого метода.

Пояснения к модели

Метод	Модели	Пояснения	Классификация	Регрессия	Табличный	Текст	Изображения	Категориальные особенности	Требуется комплект поездов	Распределенный
ЭЛЬ	ББ	глобальный	✔	✔	✔
Частичная зависимость	ББ ВБ	глобальный	✔	✔	✔			✔
ПД-дисперсия	ББ ВБ	глобальный	✔	✔	✔			✔
Важность перестановки	ББ	глобальный	✔	✔	✔			✔
Якоря	ББ	местный	✔		✔	✔	✔	✔	Для табличных
СЕМ	BB* TF/Керас	местный	✔		✔		✔		Необязательный
Контрфакты	BB* TF/Керас	местный	✔		✔		✔		Нет
Контрфакты прототипа	BB* TF/Керас	местный	✔		✔		✔	✔	Необязательный
Контрафакты с RL	ББ	местный	✔		✔		✔	✔	✔
Интегрированные градиенты	ТФ/Керас	местный	✔	✔	✔	✔	✔	✔	Необязательный
Ядро ШАП	ББ	местный глобальный	✔	✔	✔			✔	✔	✔
Дерево ШАП	ВБ	местный глобальный	✔	✔	✔			✔	Необязательный
Объяснения сходства	ВБ	местный	✔	✔	✔	✔	✔	✔	✔

Модель уверенности

Эти алгоритмы предоставляют оценки для конкретного экземпляра, измеряющие уверенность модели в выполнении конкретного прогноза.

Метод	Модели	Классификация	Регрессия	Табличный	Текст	Изображения	Категориальные особенности	Требуется комплект поездов
Рейтинги доверия	ББ	✔		✔	✔(1)	✔(2)		Да
Мера линейности	ББ	✔	✔	✔		✔		Необязательный

Ключ:

BB — черный ящик (требуется только функция прогнозирования)
BB* — черный ящик, но предполагается, что модель дифференцируема
WB — требуется доступ к модели «белого ящика». Могут быть ограничения на поддерживаемые модели.
TF/Keras — модели TensorFlow через API Keras
Локальное объяснение, специфичное для конкретного случая, почему был сделан этот прогноз?
Глобальный — объясняет модель относительно набора экземпляров.
(1) - в зависимости от модели
(2) - может потребоваться уменьшение размерности

Прототипы

Эти алгоритмы обеспечивают четкое представление набора данных и помогают построить интерпретируемый классификатор 1-KNN.

Метод	Классификация	Регрессия	Табличный	Текст	Изображения	Категориальные особенности	Этикетки поездов
Протоселект	✔		✔	✔	✔	✔	Необязательный

Ссылки и примеры

Накопленные локальные эффекты (ALE, Apley and Zhu, 2016)
- Документация
- Примеры: набор данных о жилье в Калифорнии, набор данных Iris.
Частичная зависимость (Дж. Х. Фридман, 2001)
- Документация
- Примеры: прокат велосипедов.
Частичная зависимость дисперсии (Greenwell et al., 2018)
- Документация
- Примеры: проблема регрессии Фридмана.
Важность перестановки (Брейман, 2001; Фишер и др., 2018)
- Документация
- Примеры: Кто уйдет следующим?
Якорные пояснения (Рибейро и др., 2018)
- Документация
- Примеры: прогноз дохода, набор данных Iris, классификация настроений к фильмам, ImageNet, модный MNIST.
Метод контрастивного объяснения (CEM, Dhurandhar et al., 2018)
- Документация
- Примеры: MNIST, набор данных Iris.
Контрфактические объяснения (расширение Wachter et al., 2017)
- Документация
- Примеры: МНИСТ
Контрафактические объяснения, основанные на прототипах (Ван Луверен и Клэйз, 2019)
- Документация
- Примеры: MNIST, набор данных о жилье в Калифорнии, доход взрослого (горячий), доход взрослого (порядковый номер).
Независимые от модели контрфактические объяснения с помощью RL (Samoilescu et al., 2021)
- Документация
- Примеры: MNIST, Доход взрослого населения.
Интегрированные градиенты (Сундарараджан и др., 2017)
- Документация,
- Примеры: пример MNIST, пример Imagenet, пример IMDB.
Объяснения аддитивности ядра Шепли (Lundberg et al., 2017)
- Документация
- Примеры: SVM с непрерывными данными, полиномиальная логистическая регрессия с непрерывными данными, обработка категориальных переменных.
Пояснения к аддитивам дерева Шепли (Lundberg et al., 2020)
- Документация
- Примеры: интервенционный (доход взрослых, xgboost), зависимый от пути (доход взрослых, xgboost).
Показатели доверия (Цзян и др., 2018 г.)
- Документация
- Примеры: MNIST, набор данных Iris.
Мера линейности
- Документация
- Примеры: набор данных Iris, мода MNIST.
Протоселект
- Документация
- Примеры: перепись взрослого населения и CIFAR10.
Объяснения сходства
- Документация
- Примеры: набор данных 20 групп новостей, набор данных ImageNet, набор данных MNIST.

Цитаты

Если вы используете алиби в своем исследовании, пожалуйста, рассмотрите возможность сослаться на него.

Запись в BibTeX:

 @article{JMLR:v22:21-0017,
  author  = {Janis Klaise and Arnaud Van Looveren and Giovanni Vacanti and Alexandru Coca},
  title   = {Alibi Explain: Algorithms for Explaining Machine Learning Models},
  journal = {Journal of Machine Learning Research},
  year    = {2021},
  volume  = {22},
  number  = {181},
  pages   = {1-7},
  url     = {http://jmlr.org/papers/v22/21-0017.html}
}

Расширять

Дополнительная информация