GRETEL
1.0.0
Sistem Pembelajaran Mesin (ML) adalah bagian penting dari alat modern yang memengaruhi kehidupan kita sehari-hari di beberapa domain aplikasi. Karena sifat black-box-nya, sistem-sistem tersebut jarang diterapkan dalam bidang aplikasi (misalnya kesehatan, keuangan) di mana pemahaman terhadap proses pengambilan keputusan merupakan hal yang sangat penting. Metode penjelasan dikembangkan untuk menjelaskan bagaimana model ML mengambil keputusan spesifik untuk kasus/contoh tertentu. Graph Counterfactual Explanations (GCE) merupakan salah satu teknik penjelasan yang diadopsi dalam domain Graph Learning. Karya-karya yang ada tentang Penjelasan Kontrafaktual Grafik sebagian besar berbeda dalam definisi masalah, domain aplikasi, data pengujian, dan metrik evaluasi, dan sebagian besar karya yang ada tidak membandingkan secara mendalam dengan teknik penjelasan kontrafaktual lain yang ada dalam literatur. Di sini, kami merilis GRETEL [1,2], kerangka kerja terpadu untuk mengembangkan dan menguji metode GCE di beberapa pengaturan. GRETEL [1,2] adalah kerangka kerja sumber terbuka untuk Mengevaluasi Metode Penjelasan Kontrafaktual Grafik. Ini diimplementasikan menggunakan paradigma Berorientasi Objek dan pola desain Metode Pabrik. Tujuan utama kami adalah menciptakan platform umum yang memungkinkan para peneliti mempercepat proses pengembangan dan pengujian Metode Penjelasan Kontrafaktual Grafik yang baru. GRETEL adalah kerangka kerja evaluasi yang sangat dapat diperluas yang mempromosikan Sains Terbuka dan reproduktifitas evaluasi dengan menyediakan serangkaian mekanisme yang terdefinisi dengan baik untuk diintegrasikan dan dikelola dengan mudah: kumpulan data nyata dan sintetis, model ML, teknik penjelasan canggih , dan langkah-langkah evaluasi.
GRETEL [1, 2] adalah kerangka kerja sumber terbuka untuk Mengevaluasi Metode Penjelasan Kontrafaktual Grafik. Diimplementasikan dengan menggunakan paradigma Berorientasi Objek dan pola desain Metode Pabrik. Tujuan utama kami adalah menciptakan platform umum yang memungkinkan para peneliti mempercepat proses pengembangan dan pengujian Metode Penjelasan Kontrafaktual Grafik yang baru.
Lihat wiki GRETEL
Silakan kutip makalah kami jika Anda menggunakan GRETEL dalam proyek Anda:
Mario Alfonso Prado-Romero dan Giovanni Stilo. 2022. GRETEL: Kerangka Evaluasi Penjelasan Kontrafaktual Grafik. Dalam Prosiding Konferensi Internasional ACM ke-31 tentang Manajemen Informasi dan Pengetahuan (CIKM '22). Asosiasi Mesin Komputasi, New York, NY, AS. https://doi.org/10.1145/3511808.3557608
@inproceedings{prado-romero2022gretel,
title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
isbn = {9781450392365},
year={2022},
doi = {10.1145/3511808.3557608},
booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
location = {Atlanta, GA, USA},
series = {CIKM '22}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, dan Giovanni Stilo. 2023. Pengembangan dan Evaluasi Grafik Penjelasan Kontrafaktual dengan GRETEL. Dalam Prosiding Konferensi Internasional ACM Keenambelas tentang Pencarian Web dan Penambangan Data (WSDM '23). Asosiasi Mesin Komputasi, New York, NY, AS, 1180–1183. https://doi.org/10.1145/3539597.3573026
@inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo, dan Fosca Giannotti. 2023. Survei Penjelasan Kontrafaktual Grafik: Definisi, Metode, Evaluasi, dan Tantangan Penelitian. Komputasi ACM. Bertahan. Baru Diterima (September 2023). https://doi.org/10.1145/3618105
@article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}
Siklus Pohon [3]: Kumpulan data sintetis yang setiap instancenya berupa grafik. Contohnya dapat berupa pohon atau pohon dengan beberapa pola siklus yang dihubungkan ke graf utama melalui satu sisi
Tree-Infinity : Ini mengikuti pendekatan Tree-Cycles, namun alih-alih cycle, yang ada adalah bentuk infinity.
ASD [4]: Autism Spectrum Disorder (ASD) diambil dari Autism Brain Imagine Data Exchange (ABIDE).
ADHD [4]: Attention Deficit Hyperactivity Disorder (ADHD), diambil dari USC Multimodal Connectivity Database (USCD).
BBBP [5]: Permeasi Penghalang Darah-Otak adalah kumpulan data molekuler. Memprediksi apakah suatu molekul dapat menembus sawar darah-otak.
HIV [5]: Ini adalah kumpulan data molekuler yang mengklasifikasikan senyawa berdasarkan kemampuannya untuk menghambat HIV.
KNN
SVM
GCN
ASD Custom Oracle [4] (Aturan khusus untuk dataset ASD)
Oracle Kustom Tree-Cycles (Menjamin akurasi 100% pada dataset Tree-Cycles)
Pencarian DCE : Pencarian Penjelasan Sesuai Distribusi, terutama digunakan sebagai garis dasar, tidak membuat asumsi apa pun tentang kumpulan data yang mendasarinya dan mencari contoh kontrafaktual di dalamnya.
Oblivious BiDirectional Search (OBS) [4]: Merupakan metode penjelasan heuristik yang menggunakan pendekatan 2 tahap.
Pencarian Dua Arah Berbasis Data (DDBS) [4]: Ini mengikuti logika yang sama seperti OBS. Perbedaan utamanya adalah metode ini menggunakan probabilitas (dihitung berdasarkan kumpulan data asli) setiap sisi untuk muncul dalam grafik kelas tertentu untuk mendorong proses pencarian kontrafaktual.
MACCS [5]: Model Agnostic Counterfactual Compounds with STONED (MACCS) dirancang khusus untuk bekerja dengan molekul.
MEG [6]: Generator Penjelasan Molekuler adalah penjelasan berbasis RL untuk grafik molekul.
CFF [7] Merupakan metode berbasis pembelajaran yang menggunakan Penalaran Kontrafaktual dan Faktual dalam proses pembuatan topeng gangguan.
CLEAR [8] adalah metode penjelasan berbasis pembelajaran yang memberikan Penjelasan Kontrafaktual Generatif pada Grafik.
CounteRGAN [9] adalah porting metode penjelasan berbasis GAN untuk gambar
Prado-Romero, MA dan Stilo, G., 2022, Oktober. Gretel: Grafik kerangka evaluasi penjelasan kontrafaktual. Dalam Prosiding Konferensi Internasional ACM ke-31 tentang Manajemen Informasi & Pengetahuan (hlm. 4389-4393).
Prado-Romero, MA, Prenkaj, B. dan Stilo, G., 2023, Februari. Mengembangkan dan Mengevaluasi Grafik Penjelasan Kontrafaktual dengan GRETEL. Dalam Prosiding Konferensi Internasional ACM Keenambelas tentang Pencarian Web dan Penambangan Data (hlm. 1180-1183).
Zhitao Ying, Dylan Bourgeois, Jiaxuan You, Marinka Zitnik, dan Jure Leskovec. 2019. Gnnexplainer: Menghasilkan penjelasan untuk jaringan saraf grafik. Kemajuan dalam sistem pemrosesan informasi saraf 32 (2019)
Carlo Abrate dan Francesco Bonchi. 2021. Grafik Kontrafaktual untuk Klasifikasi Jaringan Otak yang Dapat Dijelaskan. Dalam Prosiding Konferensi ACM SIGKDD ke-27 tentang Penemuan Pengetahuan & Penambangan Data. 2495–2504
Geemi P Wellawatte, Aditi Seshadri, dan Andrew D White. 2022. Model generasi agnostik untuk penjelasan kontrafaktual molekul. Ilmu kimia 13, 13 (2022), 3697–370
Numeroso, D. dan Bacciu, D., 2021, Juli. Meg: Menghasilkan penjelasan kontrafaktual molekuler untuk jaringan grafik yang dalam. Pada Konferensi Gabungan Internasional tentang Jaringan Syaraf Tiruan (IJCNN) tahun 2021 (hlm. 1-8). IEEE.
Tan, J., Geng, S., Fu, Z., Ge, Y., Xu, S., Li, Y. dan Zhang, Y., 2022, April. Mempelajari dan mengevaluasi penjelasan jaringan syaraf graf berdasarkan penalaran kontrafaktual dan faktual. Dalam Prosiding Konferensi Web ACM 2022 (hlm. 1018-1027).
Ma, J., Guo, R., Mishra, S., Zhang, A. dan Li, J., 2022. Jelas: Penjelasan kontrafaktual generatif pada grafik. Kemajuan dalam Sistem Pemrosesan Informasi Neural, 35, hal.25895-25907.
Nemirovsky, D., Thiebaut, N., Xu, Y. dan Gupta, A., 2022, Agustus. CounterRGAN: Menghasilkan kontrafaktual untuk bantuan dan interpretasi waktu nyata menggunakan sisa GAN. Dalam Ketidakpastian dalam Kecerdasan Buatan (hlm. 1488-1497). PMLR.
