alibi

その他のソースコード

v0.9.6

ダウンロード

ビルドステータス

Alibi は、機械学習モデルの検査と解釈を目的とした Python ライブラリです。このライブラリの焦点は、分類および回帰モデルのブラックボックス、ホワイトボックス、ローカルおよびグローバルの説明方法の高品質な実装を提供することです。

ドキュメント

外れ値の検出、概念ドリフト、または敵対的インスタンスの検出に興味がある場合は、姉妹プロジェクトの alibi-detect をチェックしてください。

画像のアンカー説明	テキストの統合されたグラデーション
反事実の例	蓄積された局所効果

インストールと使用方法

Alibi は以下からインストールできます。

PyPI または GitHub ソース ( pipを使用)
アナコンダ ( conda / mamba付き)

ピップあり

Alibi は PyPI からインストールできます。
```
pip install alibi
```
あるいは、開発バージョンをインストールすることもできます。
```
pip install git+https://github.com/SeldonIO/alibi.git 
```
説明の分散計算を利用するには、 rayを使用してalibiインストールします。
```
pip install alibi[ray]
```
SHAP をサポートするには、次のようにalibiをインストールします。
```
pip install alibi[shap]
```

コンダあり

conda-forge からインストールするには、mamba を使用することをお勧めします。これは、以下を使用して基本conda 環境にインストールできます。

conda install mamba -n base -c conda-forge

標準の Alibi インストールの場合:
```
mamba install -c conda-forge alibi
```
分散コンピューティングのサポートの場合:
```
mamba install -c conda-forge alibi ray
```
SHAP サポートの場合:
```
mamba install -c conda-forge alibi shap
```

使用法

アリバイ説明 API はscikit-learnからインスピレーションを得ており、個別の初期化、適合、および説明のステップで構成されます。 AnchorTabular の説明を使用して API を説明します。

 from alibi . explainers import AnchorTabular

# initialize and fit explainer by passing a prediction function and any other required arguments
explainer = AnchorTabular ( predict_fn , feature_names = feature_names , category_map = category_map )
explainer . fit ( X_train )

# explain an instance
explanation = explainer . explain ( x )

返される説明は、属性metaおよびdataを持つExplanationオブジェクトです。 metaは、Explainer メタデータとハイパーパラメータを含むディクショナリであり、 data計算された説明に関連するすべてを含むディクショナリです。たとえば、アンカーアルゴリズムの場合、説明にはexplanation.data['anchor'] (またはexplanation.anchor ) を介してアクセスできます。利用可能なフィールドの正確な詳細はメソッドごとに異なるため、サポートされているメソッドの種類についてよく理解しておくことをお勧めします。

サポートされているメソッド

次の表は、各メソッドの考えられる使用例をまとめたものです。

モデルの説明

方法	モデル	説明	分類	回帰	表形式	文章	画像	カテゴリ特徴	列車セットが必要です	分散型
エール	BB	グローバル	✔	✔	✔
部分的な依存	BBWB	グローバル	✔	✔	✔			✔
PD分散	BBWB	グローバル	✔	✔	✔			✔
順列の重要性	BB	グローバル	✔	✔	✔			✔
アンカー	BB	地元	✔		✔	✔	✔	✔	表形式の場合
CEM	BB* TF/ケラス	地元	✔		✔		✔		オプション
反事実	BB* TF/ケラス	地元	✔		✔		✔		いいえ
プロトタイプの反事実	BB* TF/ケラス	地元	✔		✔		✔	✔	オプション
RL による反事実	BB	地元	✔		✔		✔	✔	✔
統合されたグラデーション	TF/ケラス	地元	✔	✔	✔	✔	✔	✔	オプション
カーネルSHAP	BB	地元グローバル	✔	✔	✔			✔	✔	✔
ツリーSHAP	WB	地元グローバル	✔	✔	✔			✔	オプション
類似性の説明	WB	地元	✔	✔	✔	✔	✔	✔	✔

モデルの信頼性

これらのアルゴリズムは、特定の予測を行うためのモデルの信頼度を測定するインスタンス固有のスコアを提供します。

方法	モデル	分類	回帰	表形式	文章	画像	カテゴリ特徴	列車セットが必要です
トラストスコア	BB	✔		✔	✔(1)	✔(2)		はい
直線性の測定	BB	✔	✔	✔		✔		オプション

鍵：

BB - ブラックボックス (予測機能のみが必要)
BB* - ブラックボックスですがモデルが微分可能であると仮定します
WB - ホワイトボックスモデルへのアクセスが必要です。対応機種に制限がある場合がございます
TF/Keras - Keras API を介した TensorFlow モデル
ローカル- インスタンス固有の説明、なぜこの予測が行われたのか?
グローバル- 一連のインスタンスに関してモデルを説明します
(1) - モデルに応じて
(2) - 次元削減が必要な場合があります

プロトタイプ

これらのアルゴリズムは、データセットの抽出されたビューを提供し、1-KNN解釈可能な分類器の構築に役立ちます。

方法	分類	回帰	表形式	文章	画像	カテゴリ特徴	列車セットのラベル
プロトセレクト	✔		✔	✔	✔	✔	オプション

参考文献と例

蓄積された局所効果 (ALE、Apley および Zhu、2016)
- ドキュメント
- 例: カリフォルニアの住宅データセット、アイリスデータセット
部分依存 (JH フリードマン、2001)
- ドキュメント
- 例: レンタル自転車
部分依存分散(Greenwell et al., 2018)
- ドキュメント
- 例: フリードマンの回帰問題
順列の重要性(Breiman、2001; Fisher et al.、2018)
- ドキュメント
- 例: 次に辞めるのは誰ですか?
アンカーの説明 (Ribeiro et al., 2018)
- ドキュメント
- 例: 収入予測、虹彩データセット、映画感情分類、ImageNet、ファッション MNIST
対比説明法 (CEM、Dhurandhar et al.、2018)
- ドキュメント
- 例: MNIST、アイリスデータセット
反事実の説明 (Wachter et al., 2017 の拡張)
- ドキュメント
- 例: MNIST
プロトタイプに導かれた反事実的説明 (Van Looveren and Klaise、2019)
- ドキュメント
- 例: MNIST、カリフォルニアの住宅データセット、成人の収入 (ワンホット)、成人の収入 (順序)
RL によるモデルに依存しない反事実の説明 (Samoilescu et al., 2021)
- ドキュメント
- 例: MNIST、成人の収入
統合された勾配 (Sundararajan et al.、2017)
- ドキュメント、
- 例: MNIST の例、Imagenet の例、IMDB の例。
カーネル Shapley 添加剤の説明 (Lundberg et al.、2017)
- ドキュメント
- 例: 連続データを使用した SVM、連続データを使用した多項ロジスティック回帰、カテゴリ変数の処理
Tree Shapley 添加剤の説明 (Lundberg et al.、2020)
- ドキュメント
- 例: 介入型 (成人の収入、xgboost)、経路依存型 (成人の収入、xgboost)
トラストスコア (Jiang et al., 2018)
- ドキュメント
- 例: MNIST、アイリスデータセット
直線性の測定
- ドキュメント
- 例: アイリスデータセット、ファッション MNIST
プロトセレクト
- ドキュメント
- 例: 成人国勢調査と CIFAR10
類似性の説明
- ドキュメント
- 例: 20 ニュースグループデータセット、ImageNet データセット、MNIST データセット

引用

研究でアリバイを使用する場合は、それを引用することを検討してください。

BibTeX エントリ:

 @article{JMLR:v22:21-0017,
  author  = {Janis Klaise and Arnaud Van Looveren and Giovanni Vacanti and Alexandru Coca},
  title   = {Alibi Explain: Algorithms for Explaining Machine Learning Models},
  journal = {Journal of Machine Learning Research},
  year    = {2021},
  volume  = {22},
  number  = {181},
  pages   = {1-7},
  url     = {http://jmlr.org/papers/v22/21-0017.html}
}

拡大する

追加情報