AIX360
v0.3.0
AI Explainability 360 ツールキットは、データセットと機械学習モデルの解釈可能性と説明可能性をサポートするオープンソース ライブラリです。 AI Explainability 360 Python パッケージには、プロキシの説明可能性メトリクスとともに、説明のさまざまな側面をカバーする包括的なアルゴリズムのセットが含まれています。 AI Explainability 360 ツールキットは、表形式、テキスト、画像、時系列データをサポートしています。
AI Explainability 360 のインタラクティブなエクスペリエンスは、さまざまな消費者ペルソナのユースケース例を段階的に説明することで、概念と機能を優しく紹介します。チュートリアルとサンプル ノートブックは、データ サイエンティスト向けのより深い入門を提供します。完全な API も利用できます。
説明可能性に対して最も効果的な単一のアプローチはありません。データとモデル、直接解釈可能な説明と事後説明、ローカルとグローバルなど、説明するには多くの方法があります。そのため、特定のユースケースにどのアルゴリズムが最適であるかを理解するのは混乱を招く可能性があります。これを支援するために、参照できるガイダンス資料と分類ツリーを作成しました。
拡張性を念頭に置いてパッケージを開発しました。このライブラリはまだ開発中です。説明可能性のアルゴリズム、指標、ユースケースを提供することをお勧めします。コントリビューターとして活動を開始するには、こちらから招待をリクエストして、Slack の AI Explainability 360 コミュニティに参加してください。ここでコードと Python ノートブックを提供する手順を確認してください。
| インストールキーワード | 説明者 | OS | Pythonのバージョン |
|---|---|---|---|
| コフルネット | コフルネット | macOS、Ubuntu、Windows | 3.10 |
| 対照的な | cem、cem_maf | macOS、Ubuntu、Windows | 3.6 |
| ディプヴァエ | ディプヴァエ | macOS、Ubuntu、Windows | 3.10 |
| ジーシー | ジーシー | macOS、Ubuntu、Windows | 3.10 |
| 認証する | 認証する | macOS、Ubuntu、Windows | 3.10 |
| imd | imd | macOS、Ubuntu | 3.10 |
| ライム | ライム | macOS、Ubuntu、Windows | 3.10 |
| マッチング | マッチング | macOS、Ubuntu、Windows | 3.10 |
| 対照的 | 対照的 | macOS、Ubuntu、Windows | 3.10 |
| 利益 | 利益 | macOS、Ubuntu、Windows | 3.6 |
| プロトダッシュ | プロトダッシュ | macOS、Ubuntu、Windows | 3.10 |
| ＲＢＭ | brcg、glrm | macOS、Ubuntu、Windows | 3.10 |
| ルール誘導 | リッパー | macOS、Ubuntu、Windows | 3.10 |
| 形 | 形 | macOS、Ubuntu、Windows | 3.6 |
| テッド | テッド | macOS、Ubuntu、Windows | 3.10 |
| 二度 | 二度 | macOS、Ubuntu、Windows | 3.10 |
| ツスライム | ツスライム | macOS、Ubuntu、Windows | 3.10 |
| 強さ | 強さ | macOS、Ubuntu、Windows | 3.10 |
AI Explainability 360 には、システム上の他のプロジェクトと競合する可能性がある多くの Python パッケージの特定のバージョンが必要です。依存関係を安全にインストールできるように、仮想環境マネージャーを使用することを強くお勧めします。ツールキットのインストールに問題がある場合は、まずこれを試してください。
Conda はすべての構成に推奨されますが、一般的に Virtualenv は目的に応じて交換可能です。 Miniconda で十分です (興味がある場合は、Anaconda と Miniconda の違いを参照してください)。まだ持っていない場合は、ここからインストールできます。
次に、上の表を参照して、使用する説明可能性アルゴリズムに基づいて新しい Python 環境を作成します。たとえば、Python 3.10 の場合は、次のコマンドを使用します。
conda create --name aix360 python=3.10
conda activate aix360シェルは(aix360) $のようになります。環境を非アクティブ化するには、次を実行します。
(aix360)$ conda deactivateプロンプトは$または(base)$に戻ります。
注: conda の古いバージョンでは、 source activate aix360およびsource deactivate (Windows ではactivate aix360とdeactivate ) が使用される場合があります。
このリポジトリの最新バージョンのクローンを作成します。
(aix360)$ git clone https://github.com/Trusted-AI/AIX360サンプルとチュートリアル ノートブックを実行したい場合は、今すぐデータセットをダウンロードし、aix360/data/README.md の説明に従ってそれぞれのフォルダーに配置します。
次に、 setup.pyファイルを含むプロジェクトのルート ディレクトリに移動し、次のコマンドを実行します。
(aix360)$ pip install -e .[ < algo 1> , < algo 2> , ...]上記のコマンドは、特定のアルゴリズムに必要なパッケージをインストールします。ここで、 <algo> 、上の表のインストール キーワードを指します。たとえば、BRCG、DIPVAE、および TSICE アルゴリズムに必要なパッケージをインストールするには、次のように使用できます。
(aix360)$ pip install -e .[rbm,dipvae,tsice]デフォルトのコマンドpip install .デフォルトの依存関係のみをインストールします。
異なるバージョンの Python を必要とする 2 つのアルゴリズムを同じ環境にインストールできない場合があることに注意してください (たとえば、 rbmとcontrastive )。
問題が発生した場合は、上記の手順を再試行する前に、pip および setuptools をアップグレードし、以前のバージョンの aix360 をアンインストールしてください。
(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360このリポジトリを明示的に複製せずに、AI Explainability 360 ツールキットの使用をすぐに開始したい場合は、次のオプションのいずれかを使用できます。
(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[ < algo 1> , < algo 2> ,...]たとえば、 pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice]を使用して、BRCG、DIPVAE、および TSICE をインストールします。 conda install cmake使用して環境に cmake がまだインストールされていない場合は、 cmakeをインストールする必要がある場合があります。
(your environment)$ pip install aix360これら 2 つのオプションのいずれかに従う場合は、サンプル フォルダーにあるノートブックを個別にダウンロードする必要があります。
AI Explainability 360 ツールキットは、Windows、MacOS、Linux でテストされています。ただし、パッケージの依存関係が原因で依然としてインストールの問題が発生する場合は、conda 経由で対応するパッケージ (例: conda install package-name) をインストールしてから、通常の手順に従ってツールキットをインストールしてください。たとえば、インストール中に pygraphviz に関連する問題が発生した場合は、 conda install pygraphviz使用してからツールキットをインストールします。
上記の表に基づいて適切な Python 環境を使用してください。
AIX360ディレクトリで、 docker build -t aix360_docker .docker run -it -p 8888:8888 aix360_docker:latest bashを使用してコンテナー イメージを起動します。jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browserを使用して jupuyter lab を起動します。localhost:8888を使用して、マシン上のサンプル チュートリアルにアクセスします。 examplesディレクトリには、AI Explainability 360 をさまざまな方法で使用する jupyter ノートブックの多様なコレクションが含まれています。サンプルとチュートリアル ノートブックの両方で、ツールキットを使用した実際のコードが示されています。チュートリアルでは、ノートブックのさまざまな手順をユーザーに説明する追加の説明が提供されます。チュートリアルと例の詳細については、こちらをご覧ください。
AI Explainability 360 を仕事に使用している場合は、次のことをお勧めします。
@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}
このリポジトリにスターを付けます。
あなたの成功事例を私たちや AI Explainability 360 コミュニティの他の人と共有してください。
AIX360 は、いくつかのオープン ソース パッケージを利用して構築されています。これらはすべて setup.py にリストされており、そのうちのいくつかは次のとおりです。
ライセンス情報については、ルート ディレクトリにある LICENSE ファイルと補足ライセンス フォルダの両方を参照してください。
