首页>编程相关>Ai源码
下载

AI 可解释性 360 (v0.3.0)

AI Explainability 360 工具包是一个开源库，支持数据集和机器学习模型的可解释性和可解释性。 AI Explainability 360 Python 包包含一套全面的算法，涵盖不同维度的解释以及代理可解释性指标。 AI Explainability 360 工具包支持表格、文本、图像和时间序列数据。

AI Explainability 360 交互式体验通过针对不同消费者角色的示例用例，对概念和功能进行了温和的介绍。教程和示例笔记本提供了更深入、面向数据科学家的介绍。完整的 API 也可用。

没有一种单一的可解释性方法最有效。解释的方法有很多：数据与模型、直接解释与事后解释、本地与全局等。因此，找出最适合给定用例的算法可能会令人困惑。为了提供帮助，我们创建了一些可供参考的指导材料和分类树。

我们开发该软件包时考虑到了可扩展性。该库仍在开发中。我们鼓励您贡献您的可解释性算法、指标和用例。要开始成为贡献者，请在此处申请邀请加入 Slack 上的 AI Expandability 360 社区。请在此处查看贡献代码和 Python 笔记本的说明。

支持的可解释性算法

数据说明

  • ProtoDash（Gurumoorthy 等人，2019）
  • 解开推断先验 VAE（Kumar 等人，2018）

当地事后解释

  • ProtoDash（Gurumoorthy 等人，2019）
  • 对比解释法（Dhurandhar et al., 2018）
  • 单调属性函数的对比解释方法（Luss et al., 2019）
  • 基于范例的对比解释法
  • 分组条件期望（Goldstein 等人将个体条件期望图调整为更高维度）
  • LIME（Ribeiro 等人，2016 年，Github）
  • SHAP（Lundberg 等人，2017 年，Github）

时间序列局部事后解释

  • 使用积分梯度的时间序列显着性图（受到 Sundararajan 等人的启发）
  • 时间序列 LIME（时间序列改编自 Ribeiro 等人 2016 年的经典论文）
  • 时间序列个人条件期望（个人条件期望图 Goldstein 等人的时间序列改编）

本地直接解释

  • 教人工智能解释其决策（Hind 等人，2019）
  • 最优传输中的顺序约束（Lim 等人，2022，Github）

验证本地解释

  • 通过黑盒概率认证 (Ecertify) 进行解释的信任区域（Dhurandhar 等人，2024）

全局直接解释

  • 可解释模型差分 (IMD)（Haldar 等人，2023）
  • CoFrNets（连续分数网络）（Puri 等人，2021）
  • 通过列生成的布尔决策规则（精简版）（Dash 等人，2018）
  • 广义线性规则模型（Wei 等人，2019）
  • 快速有效的规则归纳（Ripper）（William W Cohen，1995）

全球事后解释

  • ProfWeight（Dhurandhar 等人，2018）

支持的可解释性指标

  • 忠诚（Alvarez-Melis 和 Jaakkola，2018）
  • 单调性（Luss et al., 2019）

设置

支持的配置：

安装关键字解释者操作系统Python版本
协同网络协同网络macOS、Ubuntu、Windows 3.10
对比的cem、cem_maf macOS、Ubuntu、Windows 3.6
迪瓦埃迪瓦埃macOS、Ubuntu、Windows 3.10
普通教育考试普通教育考试macOS、Ubuntu、Windows 3.10
电子认证电子认证macOS、Ubuntu、Windows 3.10
IMD IMD macOS、Ubuntu 3.10
酸橙酸橙macOS、Ubuntu、Windows 3.10
匹配匹配macOS、Ubuntu、Windows 3.10
非对比性非对比性macOS、Ubuntu、Windows 3.10
教授教授macOS、Ubuntu、Windows 3.6
原型破折号原型破折号macOS、Ubuntu、Windows 3.10
RBM BRCG、GLRM macOS、Ubuntu、Windows 3.10
规则归纳开膛手macOS、Ubuntu、Windows 3.10
形状形状macOS、Ubuntu、Windows 3.6
特德特德macOS、Ubuntu、Windows 3.10
切采切采macOS、Ubuntu、Windows 3.10
茨莱姆茨莱姆macOS、Ubuntu、Windows 3.10
显着性显着性macOS、Ubuntu、Windows 3.10

（可选）创建虚拟环境

AI Explainability 360 需要许多 Python 包的特定版本，这可能与系统上的其他项目冲突。强烈建议使用虚拟环境管理器来确保安全安装依赖项。如果您在安装工具包时遇到问题，请先尝试此操作。

康达

尽管 Virtualenv 通常可以互换用于我们的目的，但建议将 Conda 用于所有配置。 Miniconda 就足够了（如果您好奇，请参阅 Anaconda 和 Miniconda 之间的区别），如果您还没有安装，可以从这里安装。

然后，参考上表，根据您希望使用的可解释性算法创建一个新的 python 环境。例如，对于 python 3.10，请使用以下命令： 

conda create --name aix360 python=3.10
conda activate aix360

shell 现在应该看起来像(aix360) $ 。要停用环境，请运行： 

(aix360)$ conda deactivate

提示符将返回$或(base)$ 。

注意：旧版本的 conda 可能使用source activate aix360和source deactivate （在 Windows 上activate aix360并deactivate ）。

安装

克隆此存储库的最新版本： 

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

如果您想运行示例和教程笔记本，请立即下载数据集并将它们放置在各自的文件夹中，如 aix360/data/README.md 中所述。

然后，导航到包含setup.py文件的项目的根目录并运行： 

(aix360)$ pip install -e .[ < algo 1> , < algo 2> , ...]

上面的命令安装特定算法所需的包。这里<algo>指的是上表中的安装关键字。例如，要安装 BRCG、DIPVAE 和 TSICE 算法所需的软件包，可以使用

(aix360)$ pip install -e .[rbm,dipvae,tsice]

默认命令pip install .单独安装默认依赖项。

请注意，您可能无法在同一环境中安装需要不同版本 python 的两种算法（例如与rbm contrastive ）。

如果您遇到任何问题，请尝试升级 pip 和 setuptools 并卸载任何以前版本的 aix360，然后再次尝试上述步骤。 

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

AI Explainability 360 的 PIP 安装

如果您想快速开始使用 AI可解释性 360 工具包而不显式克隆此存储库，您可以使用以下选项之一：

  • 通过存储库链接安装 v0.3.0 
(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[ < algo 1> , < algo 2> ,...]

例如，使用pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice]安装 BRCG、DIPVAE 和 TSICE。如果您的环境中尚未使用conda install cmake安装 cmake，您可能需要安装cmake 。

  • 通过pypi安装v0.3.0（或以前的版本） 
(your environment)$ pip install aix360

如果您选择这两个选项中的任何一个，则需要单独下载示例文件夹中提供的笔记本。

处理安装错误

AI Explainability 360 工具包在 Windows、MacOS 和 Linux 上进行了测试。但是，如果您仍然遇到由于软件包依赖关系而导致的安装问题，请尝试通过 conda 安装相应的软件包（例如 conda install package-name），然后按照常规步骤安装工具包。例如，如果您在安装过程中遇到与 pygraphviz 相关的问题，请使用conda install pygraphviz ，然后安装该工具包。

请根据上表使用正确的Python环境。

在 Docker 中运行

  • 在AIX360目录下，使用docker build -t aix360_docker .
  • 使用命令docker run -it -p 8888:8888 aix360_docker:latest bash启动容器映像，假设端口 8888 在您的计算机上是空闲的。
  • 在容器内使用命令jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser启动 jupuyter lab
  • 使用 URL localhost:8888访问您计算机上的示例教程

使用人工智能可解释性 360

examples目录包含各种 jupyter 笔记本集合，它们以各种方式使用 AI Explainability 360。示例和教程笔记本都说明了使用该工具包的工作代码。教程提供了额外的讨论，引导用户完成笔记本的各个步骤。请参阅此处有关教程和示例的详细信息。

引用人工智能可解释性 360

如果您在工作中使用 AI Expandability 360，我们鼓励您

  • 引用以下论文。 bibtex条目如下： 
 @misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}

  • 在此存储库上加一颗星。

  • 在 AI Explainability 360 社区中与我们和其他人分享您的成功故事。

AIX360 视频

  • Vijay Arya 和 Amit Dhurandhar 的 AI Explainability 360 介绍视频，2019 年 9 月 5 日（35 分钟）

致谢

AIX360 是在多个开源包的帮助下构建的。所有这些都列在 setup.py 中，其中一些包括：

  • 张量流 https://www.tensorflow.org/about/bib
  • Pytorch https://github.com/pytorch/pytorch
  • scikit-learn https://scikit-learn.org/stable/about.html

许可证信息

请查看根目录中的 LICENSE 文件和补充许可证文件夹以获取许可证信息。

展开
附加信息
相关应用
为您推荐
相关资讯 全部