AIX360下載 - AIX360原始碼下載

AIX360

Ai源碼

v0.3.0

下載

AI 可解釋性 360 (v0.3.0)

AI Explainability 360 工具包是一個開源程式庫，支援資料集和機器學習模型的可解釋性和可解釋性。 AI Explainability 360 Python 套件包含一套全面的演算法，涵蓋不同維度的解釋以及代理可解釋性指標。 AI Explainability 360 工具包支援表格、文字、圖像和時間序列資料。

AI Explainability 360 互動式體驗透過不同消費者角色的範例用例，對概念和功能進行了溫和的介紹。教程和範例筆記本提供了更深入、面向資料科學家的介紹。完整的 API 也可用。

沒有一種單一的可解釋性方法最有效。解釋的方法有很多：資料與模型、直接解釋與事後解釋、本地與全局等。為了提供幫助，我們創建了一些可供參考的指導材料和分類樹。

我們開發該軟體包時考慮到了可擴展性。該庫仍在開發中。我們鼓勵您貢獻您的可解釋性演算法、指標和用例。要開始成為貢獻者，請在此處申請邀請加入 Slack 上的 AI Expandability 360 社群。請在此處查看貢獻程式碼和 Python 筆記本的說明。

支援的可解釋性演算法

數據說明

ProtoDash（Gurumoorthy 等人，2019）
解開推論先驗 VAE（Kumar 等人，2018）

當地事後解釋

ProtoDash（Gurumoorthy 等人，2019）
對比解釋法（Dhurandhar et al., 2018）
單調屬性函數的對比解釋方法（Luss et al., 2019）
基於範例的比較解釋法
分組條件期望（Goldstein 等人將個體條件期望圖調整為更高維度）
LIME（Ribeiro 等人，2016 年，Github）
SHAP（Lundberg 等人，2017 年，Github）

時間序列局部事後解釋

使用積分梯度的時間序列顯著性圖（受到 Sundararajan 等人的啟發）
時間序列 LIME（時間序列改編自 Ribeiro 等人 2016 年的經典論文）
時間序列個人條件期望（個人條件期望圖 Goldstein 等人的時間序列改編）

本地直接解說

教導人工智慧解釋其決策（Hind 等人，2019）
最優傳輸中的順序約束（Lim 等人，2022，Github）

驗證本地解釋

透過黑盒機率認證 (Ecertify) 進行解釋的信任區域（Dhurandhar 等人，2024）

全局直接解釋

可解釋模型差分 (IMD)（Haldar 等人，2023）
CoFrNets（連續分數網）（Puri 等人，2021）
透過列產生的布林決策規則（精簡版）（Dash 等人，2018）
廣義線性規則模型（Wei 等人，2019）
快速有效的規則歸納（Ripper）（William W Cohen，1995）

全球事後解釋

ProfWeight（Dhurandhar 等人，2018）

支持的可解釋性指標

忠誠（Alvarez-Melis 和 Jaakkola，2018）
單調性（Luss et al., 2019）

設定

支援的配置：

安裝關鍵字	解釋者	作業系統	Python版本
協同網路	協同網路	macOS、Ubuntu、Windows	3.10
對比的	cem、cem_maf	macOS、Ubuntu、Windows	3.6
迪瓦埃	迪瓦埃	macOS、Ubuntu、Windows	3.10
普通教育考試	普通教育考試	macOS、Ubuntu、Windows	3.10
電子認證	電子認證	macOS、Ubuntu、Windows	3.10
IMD	IMD	macOS、Ubuntu	3.10
萊姆	萊姆	macOS、Ubuntu、Windows	3.10
匹配	匹配	macOS、Ubuntu、Windows	3.10
非對比性	非對比性	macOS、Ubuntu、Windows	3.10
教授	教授	macOS、Ubuntu、Windows	3.6
原型破折號	原型破折號	macOS、Ubuntu、Windows	3.10
RBM	BRCG、GLRM	macOS、Ubuntu、Windows	3.10
規則歸納	開膛手	macOS、Ubuntu、Windows	3.10
形狀	形狀	macOS、Ubuntu、Windows	3.6
泰德	泰德	macOS、Ubuntu、Windows	3.10
切採	切採	macOS、Ubuntu、Windows	3.10
茨萊姆	茨萊姆	macOS、Ubuntu、Windows	3.10
顯著性	顯著性	macOS、Ubuntu、Windows	3.10

（可選）建立虛擬環境

AI Explainability 360 需要許多 Python 套件的特定版本，這可能與系統上的其他專案衝突。強烈建議使用虛擬環境管理器來確保安全安裝相依性。如果您在安裝工具包時遇到問題，請先嘗試此操作。

康達

儘管 Virtualenv 通常可以互換用於我們的目的，但建議將 Conda 用於所有配置。 Miniconda 就足夠了（如果您好奇，請參閱 Anaconda 和 Miniconda 之間的差異），如果您還沒有安裝，可以從這裡安裝。

然後，參考上表，根據您希望使用的可解釋性演算法建立新的 python 環境。例如，對於 python 3.10，請使用以下命令：

conda create --name aix360 python=3.10
conda activate aix360

shell 現在應該看起來像(aix360) $ 。若要停用環境，請執行：

(aix360)$ conda deactivate

提示符號將傳回$或(base)$ 。

注意：舊版的 conda 可能使用source activate aix360和source deactivate （在 Windows 上activate aix360並deactivate ）。

安裝

克隆此存儲庫的最新版本：

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

如果您想執行範例和教學筆記本，請立即下載資料集並將它們放置在各自的資料夾中，如 aix360/data/README.md 中所述。

然後，導航到包含setup.py檔案的項目的根目錄並執行：

(aix360)$ pip install -e .[ < algo 1> , < algo 2> , ...]

上面的命令安裝特定演算法所需的套件。這裡<algo>指的是上表的安裝關鍵字。例如，要安裝 BRCG、DIPVAE 和 TSICE 演算法所需的軟體包，可以使用

(aix360)$ pip install -e .[rbm,dipvae,tsice]

預設命令pip install .單獨安裝預設依賴項。

請注意，您可能無法在同一環境中安裝需要不同版本 python 的兩種演算法（例如與rbm contrastive ）。

如果您遇到任何問題，請嘗試升級 pip 和 setuptools 並卸載任何先前版本的 aix360，然後再次嘗試上述步驟。

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

AI Explainability 360 的 PIP 安裝

如果您想快速開始使用 AI可解釋性 360 工具包而不明確複製此儲存庫，您可以使用以下選項之一：

透過儲存庫連結安裝 v0.3.0

(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[ < algo 1> , < algo 2> ,...]

例如，使用pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice]安裝 BRCG、DIPVAE 和 TSICE。如果您的環境中尚未使用conda install cmake安裝 cmake，您可能需要安裝cmake 。

透過pypi安裝v0.3.0（或先前的版本）

(your environment)$ pip install aix360

如果您選擇這兩個選項中的任何一個，則需要單獨下載範例資料夾中提供的筆記本。

處理安裝錯誤

AI Explainability 360 工具包在 Windows、MacOS 和 Linux 上進行了測試。但是，如果您仍然遇到由於軟體包依賴關係而導致的安裝問題，請嘗試透過 conda 安裝相應的軟體包（例如 conda install package-name），然後按照常規步驟安裝工具包。例如，如果您在安裝過程中遇到與 pygraphviz 相關的問題，請使用conda install pygraphviz ，然後安裝工具包。

請根據上表使用正確的Python環境。

在 Docker 中運行

在AIX360目錄下，使用docker build -t aix360_docker .
使用指令docker run -it -p 8888:8888 aix360_docker:latest bash啟動容器映像，假設連接埠 8888 在您的電腦上是空閒的。
在容器內使用指令jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser啟動 jupuyter lab
使用 URL localhost:8888存取您電腦上的範例教學

使用人工智慧可解釋性 360

examples目錄包含各種 jupyter 筆記本集合，它們以各種方式使用 AI Explainability 360。範例和教學筆記本都說明了使用該工具包的工作代碼。教程提供了額外的討論，引導使用者完成筆記本的各個步驟。請參閱此處有關教程和範例的詳細資訊。

引用人工智慧可解釋性 360

如果您在工作中使用 AI Expandability 360，我們鼓勵您

引用以下論文。 bibtex條目如下：

 @misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}