Beranda>Terkait pemrograman>Kode sumber lainnya
Unduh
alibi

Membangun Status

Alibi adalah perpustakaan Python yang ditujukan untuk inspeksi dan interpretasi model pembelajaran mesin. Fokus perpustakaan ini adalah untuk menyediakan implementasi metode penjelasan black-box, white-box, lokal dan global berkualitas tinggi untuk model klasifikasi dan regresi.

  • Dokumentasi

Jika Anda tertarik dengan deteksi outlier, penyimpangan konsep, atau deteksi instance permusuhan, lihat deteksi alibi proyek saudara kami.


Penjelasan jangkar untuk gambar


Gradien Terintegrasi untuk teks


Contoh kontrafaktual


Akumulasi Efek Lokal

Daftar isi

  • Instalasi dan Penggunaan
  • Metode yang Didukung
    • Penjelasan Model
    • Keyakinan Model
    • Prototipe
    • Referensi dan Contoh
  • Kutipan

Instalasi dan Penggunaan

Alibi dapat dipasang dari:

  • Sumber PyPI atau GitHub (dengan pip )
  • Anaconda (dengan conda / mamba )

Dengan pip

  • Alibi dapat diinstal dari PyPI: 

    pip install alibi

  • Alternatifnya, versi pengembangan dapat diinstal: 

    pip install git+https://github.com/SeldonIO/alibi.git

  • Untuk memanfaatkan perhitungan penjelasan yang terdistribusi, instal alibi dengan ray : 

    pip install alibi[ray]

  • Untuk dukungan SHAP, instal alibi sebagai berikut: 

    pip install alibi[shap]

Dengan konda

Untuk menginstal dari conda-forge disarankan untuk menggunakan mamba, yang dapat diinstal ke lingkungan dasar conda dengan: 

conda install mamba -n base -c conda-forge

  • Untuk instalasi Alibi standar: 

    mamba install -c conda-forge alibi

  • Untuk dukungan komputasi terdistribusi: 

    mamba install -c conda-forge alibi ray

  • Untuk dukungan SHAP: 

    mamba install -c conda-forge alibi shap

Penggunaan

API penjelasan alibi mengambil inspirasi dari scikit-learn , yang terdiri dari langkah-langkah inisialisasi, penyesuaian, dan penjelasan yang berbeda. Kami akan menggunakan penjelasan AnchorTabular untuk mengilustrasikan API: 

 from alibi . explainers import AnchorTabular

# initialize and fit explainer by passing a prediction function and any other required arguments
explainer = AnchorTabular ( predict_fn , feature_names = feature_names , category_map = category_map )
explainer . fit ( X_train )

# explain an instance
explanation = explainer . explain ( x )

Penjelasan yang dikembalikan adalah objek Explanation dengan atribut meta dan data . meta adalah kamus yang berisi metadata penjelasan dan semua hyperparameter serta data adalah kamus yang berisi segala sesuatu yang berhubungan dengan penjelasan yang dihitung. Misalnya untuk algoritma Anchor penjelasannya dapat diakses melalui explanation.data['anchor'] (atau explanation.anchor ). Detail pasti dari bidang yang tersedia bervariasi dari satu metode ke metode lainnya, jadi kami mendorong pembaca untuk memahami jenis metode yang didukung.

Metode yang Didukung

Tabel berikut merangkum kemungkinan kasus penggunaan untuk setiap metode.

Penjelasan Model

Metode Model Penjelasan Klasifikasi Regresi Datar Teks Gambar Fitur kategoris Set kereta diperlukan Didistribusikan
ALE BB global ✔ ✔ ✔
Ketergantungan Parsial BB WB global ✔ ✔ ✔ ✔
Varians PD BB WB global ✔ ✔ ✔ ✔
Pentingnya Permutasi BB global ✔ ✔ ✔ ✔
Jangkar BB lokal ✔ ✔ ✔ ✔ ✔ Untuk Tabel
CEM BB* TF/Keras lokal ✔ ✔ ✔ Opsional
Kontrafaktual BB* TF/Keras lokal ✔ ✔ ✔ TIDAK
Kontrafaktual Prototipe BB* TF/Keras lokal ✔ ✔ ✔ ✔ Opsional
Kontrafaktual dengan RL BB lokal ✔ ✔ ✔ ✔ ✔
Gradien Terintegrasi TF/Keras lokal ✔ ✔ ✔ ✔ ✔ ✔ Opsional
BENTUK Kernel BB lokal

global		 ✔ ✔ ✔ ✔ ✔ ✔
BENTUK Pohon Bank Dunia lokal

global		 ✔ ✔ ✔ ✔ Opsional
Penjelasan kesamaan Bank Dunia lokal ✔ ✔ ✔ ✔ ✔ ✔ ✔

Keyakinan Model

Algoritme ini memberikan skor spesifik instans yang mengukur keyakinan model untuk membuat prediksi tertentu.

Metode Model Klasifikasi Regresi Datar Teks Gambar Fitur Kategoris Set kereta diperlukan
Skor Kepercayaan BB ✔ ✔ ✔(1) ✔(2) Ya
Ukuran Linearitas BB ✔ ✔ ✔ ✔ Opsional

Kunci:

  • BB - kotak hitam (hanya memerlukan fungsi prediksi)
  • BB* - kotak hitam tetapi menganggap model dapat dibedakan
  • WB - memerlukan akses model kotak putih. Mungkin ada batasan pada model yang didukung
  • TF/Keras - Model TensorFlow melalui Keras API
  • Lokal - contoh penjelasan spesifik, mengapa prediksi ini dibuat?
  • Global - menjelaskan model sehubungan dengan serangkaian contoh
  • (1) - tergantung model
  • (2) - mungkin memerlukan pengurangan dimensi

Prototipe

Algoritme ini memberikan gambaran menyeluruh tentang kumpulan data dan membantu membuat pengklasifikasi 1-KNN yang dapat diinterpretasikan .

Metode Klasifikasi Regresi Datar Teks Gambar Fitur Kategoris Label set kereta
ProtoPilih ✔ ✔ ✔ ✔ ✔ Opsional

Referensi dan Contoh

  • Akumulasi Efek Lokal (ALE, Apley dan Zhu, 2016)

    • Dokumentasi
    • Contoh: kumpulan data perumahan California, kumpulan data Iris

  • Ketergantungan Parsial (JH Friedman, 2001)

    • Dokumentasi
    • Contoh: Penyewaan sepeda

  • Varians Ketergantungan Parsial (Greenwell dkk., 2018)

    • Dokumentasi
    • Contoh: masalah regresi Friedman

  • Pentingnya Permutasi (Breiman, 2001; Fisher et al., 2018)

    • Dokumentasi
    • Contoh: Siapa yang Akan Pergi Selanjutnya?

  • Penjelasan jangkar (Ribeiro dkk., 2018)

    • Dokumentasi
    • Contoh: prediksi pendapatan, dataset Iris, klasifikasi sentimen film, ImageNet, fashion MNIST

  • Metode Penjelasan Kontrastif (CEM, Dhurandhar et al., 2018)

    • Dokumentasi
    • Contoh: MNIST, kumpulan data Iris

  • Penjelasan Kontrafaktual (ekstensi Wachter et al., 2017)

    • Dokumentasi
    • Contoh: MNIST

  • Penjelasan Kontrafaktual Dipandu oleh Prototipe (Van Looveren dan Klaise, 2019)

    • Dokumentasi
    • Contoh: MNIST, kumpulan data perumahan California, Pendapatan orang dewasa (one-hot), Pendapatan orang dewasa (ordinal)

  • Penjelasan Kontrafaktual Model-agnostik melalui RL (Samoilescu et al., 2021)

    • Dokumentasi
    • Contoh: MNIST, Pendapatan orang dewasa

  • Gradien Terintegrasi (Sundarajan dkk., 2017)

    • Dokumentasi,
    • Contoh: contoh MNIST, contoh Imagenet, contoh IMDB.

  • Penjelasan Aditif Kernel Shapley (Lundberg et al., 2017)

    • Dokumentasi
    • Contoh: SVM dengan data kontinyu, regresi logistik multinomial dengan data kontinyu, penanganan variabel kategori

  • Penjelasan Aditif Tree Shapley (Lundberg et al., 2020)

    • Dokumentasi
    • Contoh: Intervensional (pendapatan orang dewasa, xgboost), Bergantung pada jalur (pendapatan orang dewasa, xgboost)

  • Skor Kepercayaan (Jiang et al., 2018)

    • Dokumentasi
    • Contoh: MNIST, kumpulan data Iris

  • Ukuran Linearitas

    • Dokumentasi
    • Contoh: kumpulan data Iris, mode MNIST

  • ProtoPilih

    • Dokumentasi
    • Contoh: Sensus Dewasa & CIFAR10

  • Penjelasan kesamaan

    • Dokumentasi
    • Contoh: 20 kumpulan data grup berita, kumpulan data ImageNet, kumpulan data MNIST

Kutipan

Jika Anda menggunakan alibi dalam penelitian Anda, mohon pertimbangkan untuk mengutipnya.

Entri BibTeX: 

 @article{JMLR:v22:21-0017,
  author  = {Janis Klaise and Arnaud Van Looveren and Giovanni Vacanti and Alexandru Coca},
  title   = {Alibi Explain: Algorithms for Explaining Machine Learning Models},
  journal = {Journal of Machine Learning Research},
  year    = {2021},
  volume  = {22},
  number  = {181},
  pages   = {1-7},
  url     = {http://jmlr.org/papers/v22/21-0017.html}
}
Memperluas
Informasi Tambahan
Aplikasi Terkait
Direkomendasikan untuk Anda
Informasi Terkait Semua