AIX360
v0.3.0
AI explainability 360 툴킷은 데이터세트와 머신러닝 모델의 해석 가능성과 설명 가능성을 지원하는 오픈 소스 라이브러리입니다. AI 설명 가능성 360 Python 패키지에는 프록시 설명 가능성 측정항목과 함께 다양한 설명 차원을 포괄하는 포괄적인 알고리즘 세트가 포함되어 있습니다. AI explainability 360 툴킷은 표 형식, 텍스트, 이미지 및 시계열 데이터를 지원합니다.
AI explainability 360 대화형 경험은 다양한 소비자 페르소나에 대한 사용 사례 예시를 통해 개념과 기능을 부드럽게 소개합니다. 튜토리얼과 예제 노트북은 데이터 과학자 중심의 더 깊은 소개를 제공합니다. 완전한 API도 사용할 수 있습니다.
설명 가능성에 대해 가장 효과적인 단일 접근 방식은 없습니다. 설명하는 방법에는 데이터 대 모델, 직접 해석 가능한 설명과 사후 설명, 로컬 대 글로벌 등 여러 가지가 있습니다. 따라서 특정 사용 사례에 어떤 알고리즘이 가장 적합한지 파악하는 것이 혼란스러울 수 있습니다. 도움을 주기 위해 우리는 참고할 수 있는 몇 가지 지침 자료와 분류 트리를 만들었습니다.
우리는 확장성을 염두에 두고 패키지를 개발했습니다. 이 라이브러리는 아직 개발 중입니다. 설명 가능한 알고리즘, 측정항목 및 사용 사례를 제공하는 것이 좋습니다. 기여자로 시작하려면 여기에서 초대를 요청하여 Slack의 AI explainability 360 커뮤니티에 가입하세요. 여기에서 코드 및 Python 노트북을 제공하는 방법에 대한 지침을 검토하세요.
| 설치 키워드 | 설명자 | 운영체제 | 파이썬 버전 |
|---|---|---|---|
| 코프넷 | 코프넷 | 맥OS, 우분투, 윈도우 | 3.10 |
| 대조 | cem, cem_maf | 맥OS, 우분투, 윈도우 | 3.6 |
| 딥베 | 딥베 | 맥OS, 우분투, 윈도우 | 3.10 |
| gce | gce | 맥OS, 우분투, 윈도우 | 3.10 |
| 전자인증하다 | 전자인증하다 | 맥OS, 우분투, 윈도우 | 3.10 |
| IMD | IMD | 맥OS, 우분투 | 3.10 |
| 라임 | 라임 | 맥OS, 우분투, 윈도우 | 3.10 |
| 어울리는 | 어울리는 | 맥OS, 우분투, 윈도우 | 3.10 |
| 대조되지 않음 | 대조되지 않음 | 맥OS, 우분투, 윈도우 | 3.10 |
| 이익 | 이익 | 맥OS, 우분투, 윈도우 | 3.6 |
| 프로토대쉬 | 프로토대쉬 | 맥OS, 우분투, 윈도우 | 3.10 |
| rbm | brcg, glrm | 맥OS, 우분투, 윈도우 | 3.10 |
| 규칙_유도 | 찢는 사람 | 맥OS, 우분투, 윈도우 | 3.10 |
| 모양 | 모양 | 맥OS, 우분투, 윈도우 | 3.6 |
| 테드 | 테드 | 맥OS, 우분투, 윈도우 | 3.10 |
| tsice | tsice | 맥OS, 우분투, 윈도우 | 3.10 |
| 슬라임 | 슬라임 | 맥OS, 우분투, 윈도우 | 3.10 |
| 차살리언시 | 차살리언시 | 맥OS, 우분투, 윈도우 | 3.10 |
AI explainability 360에는 시스템의 다른 프로젝트와 충돌할 수 있는 많은 Python 패키지의 특정 버전이 필요합니다. 종속성을 안전하게 설치하려면 가상 환경 관리자를 사용하는 것이 좋습니다. 툴킷을 설치하는 데 문제가 있으면 먼저 이 방법을 시도해 보십시오.
Virtualenv는 일반적으로 우리의 목적에 맞게 상호 교환 가능하지만 Conda는 모든 구성에 권장됩니다. Miniconda로 충분하며(궁금하신 경우 Anaconda와 Miniconda의 차이점을 참조하세요.) 아직 가지고 있지 않다면 여기에서 설치할 수 있습니다.
그런 다음 위의 표를 참조하여 사용하려는 설명 가능성 알고리즘을 기반으로 새로운 Python 환경을 만듭니다. 예를 들어 Python 3.10의 경우 다음 명령을 사용합니다.
conda create --name aix360 python=3.10
conda activate aix360 이제 쉘은 (aix360) $ 처럼 보일 것입니다. 환경을 비활성화하려면 다음을 실행합니다.
(aix360)$ conda deactivate 프롬프트는 $ 또는 (base)$ 로 돌아갑니다.
참고: 이전 버전의 conda는 source activate aix360 및 source deactivate (Windows에서는 activate aix360 및 deactivate )를 사용할 수 있습니다.
이 저장소의 최신 버전을 복제합니다.
(aix360)$ git clone https://github.com/Trusted-AI/AIX360예제와 튜토리얼 노트북을 실행하려면 지금 데이터세트를 다운로드하고 aix360/data/README.md에 설명된 대로 해당 폴더에 배치하세요.
그런 다음 setup.py 파일이 포함된 프로젝트의 루트 디렉터리로 이동하여 다음을 실행합니다.
(aix360)$ pip install -e .[ < algo 1> , < algo 2> , ...] 위 명령은 특정 알고리즘에 필요한 패키지를 설치합니다. 여기서 <algo> 위 표의 설치 키워드를 의미합니다. 예를 들어 BRCG, DIPVAE 및 TSICE 알고리즘에 필요한 패키지를 설치하려면 다음을 사용할 수 있습니다.
(aix360)$ pip install -e .[rbm,dipvae,tsice] 기본 명령 pip install . 기본 종속성만 설치합니다.
동일한 환경에서 서로 다른 버전의 Python이 필요한 두 가지 알고리즘을 설치하지 못할 수도 있습니다(예: rbm 과 contrastive ).
문제가 발생하면 위 단계를 다시 시도하기 전에 pip 및 setuptools를 업그레이드하고 이전 버전의 aix360을 제거해 보세요.
(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360이 저장소를 명시적으로 복제하지 않고 AI explainability 360 툴킷 사용을 빠르게 시작하려면 다음 옵션 중 하나를 사용할 수 있습니다.
(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[ < algo 1> , < algo 2> ,...] 예를 들어, BRCG, DIPVAE 및 TSICE를 설치하려면 pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice] 사용하십시오. conda install cmake 사용하여 사용자 환경에 cmake가 아직 설치되지 않은 경우 cmake 설치해야 할 수도 있습니다.
(your environment)$ pip install aix360이 두 가지 옵션 중 하나를 따르는 경우에는 예제 폴더에서 사용 가능한 노트북을 별도로 다운로드해야 합니다.
AI explainability 360 툴킷은 Windows, MacOS, Linux에서 테스트되었습니다. 그러나 패키지 종속성으로 인해 여전히 설치 문제가 발생하는 경우 conda(예: conda install package-name)를 통해 해당 패키지를 설치한 다음 일반적인 단계에 따라 툴킷을 설치해 보십시오. 예를 들어, 설치 중에 pygraphviz와 관련된 문제가 발생하면 conda install pygraphviz 사용한 다음 툴킷을 설치하십시오.
위의 표를 참고하여 올바른 Python 환경을 사용하시기 바랍니다.
AIX360 디렉터리에서 docker build -t aix360_docker .docker run -it -p 8888:8888 aix360_docker:latest bash 명령을 사용하여 컨테이너 이미지를 시작합니다.jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser 명령을 사용하여 jupuyter lab을 시작합니다.localhost:8888 사용하여 머신에서 샘플 튜토리얼에 액세스하세요. examples 디렉토리에는 다양한 방식으로 AI explainability 360을 사용하는 다양한 jupyter 노트북 컬렉션이 포함되어 있습니다. 예제와 튜토리얼 노트북 모두 툴킷을 사용한 작업 코드를 보여줍니다. 자습서에서는 노트북의 다양한 단계를 사용자에게 안내하는 추가 토론을 제공합니다. 튜토리얼과 예제에 대한 자세한 내용은 여기에서 확인하세요.
업무에 AI explainability 360을 사용하고 있다면 다음을 권장합니다.
@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}
이 저장소에 별표를 표시하세요.
AI explainability 360 커뮤니티에서 우리 및 다른 사람들과 성공 사례를 공유하십시오.
AIX360은 여러 오픈 소스 패키지의 도움으로 구축되었습니다. 이들 모두는 setup.py에 나열되어 있으며 그 중 일부는 다음과 같습니다.
라이센스 정보는 루트 디렉토리에 있는 LICENSE 파일과 추가 라이센스 폴더를 모두 확인하십시오.
