GRETEL
1.0.0
Systeme für maschinelles Lernen (ML) sind ein wesentlicher Bestandteil moderner Werkzeuge, die unser tägliches Leben in verschiedenen Anwendungsbereichen beeinflussen. Aufgrund ihres Black-Box-Charakters werden diese Systeme kaum in Anwendungsbereichen (z. B. Gesundheit, Finanzen) eingesetzt, in denen das Verständnis des Entscheidungsprozesses von größter Bedeutung ist. Es wurden Erklärungsmethoden entwickelt, um zu erklären, wie das ML-Modell eine bestimmte Entscheidung für einen bestimmten Fall/eine bestimmte Instanz getroffen hat. Graph Counterfactual Explanations (GCE) ist eine der Erklärungstechniken, die im Bereich des Graph Learning eingesetzt werden. Die vorhandenen Arbeiten zu kontrafaktischen Erklärungen von Graphen weichen größtenteils hinsichtlich der Problemdefinition, des Anwendungsbereichs, der Testdaten und der Bewertungsmetriken voneinander ab, und die meisten vorhandenen Arbeiten lassen sich nicht umfassend mit anderen in der Literatur vorhandenen kontrafaktischen Erklärungstechniken vergleichen. Hier veröffentlichen wir GRETEL [1,2], ein einheitliches Framework zum Entwickeln und Testen von GCE-Methoden in verschiedenen Umgebungen. GRETEL [1,2] ist ein Open-Source-Framework zur Bewertung kontrafaktischer Erklärungsmethoden für Graphen. Die Implementierung erfolgt unter Verwendung des objektorientierten Paradigmas und des Entwurfsmusters der Factory-Methode. Unser Hauptziel ist die Schaffung einer generischen Plattform, die es den Forschern ermöglicht, den Prozess der Entwicklung und des Testens neuer Methoden zur kontrafaktischen Erklärung von Graphen zu beschleunigen. GRETEL ist ein hochgradig erweiterbares Bewertungsframework, das Open Science und die Reproduzierbarkeit der Bewertung fördert, indem es eine Reihe klar definierter Mechanismen zur einfachen Integration und Verwaltung bereitstellt: sowohl reale als auch synthetische Datensätze, ML-Modelle und modernste Erklärungstechniken und Bewertungsmaßnahmen.
GRETEL [1, 2] ist ein Open-Source-Framework zur Bewertung kontrafaktischer Erklärungsmethoden für Graphen. Es wird unter Verwendung des objektorientierten Paradigmas und des Entwurfsmusters der Factory-Methode implementiert. Unser Hauptziel ist die Schaffung einer generischen Plattform, die es den Forschern ermöglicht, den Prozess der Entwicklung und des Testens neuer Methoden zur kontrafaktischen Erklärung von Graphen zu beschleunigen.
Siehe das GRETEL-Wiki
Bitte zitieren Sie unsere Dokumente, wenn Sie GRETEL in Ihren Projekten verwenden:
Mario Alfonso Prado-Romero und Giovanni Stilo. 2022. GRETEL: Graph Counterfactual Explanation Evaluation Framework. In Proceedings der 31. ACM International Conference on Information and Knowledge Management (CIKM '22). Association for Computing Machinery, New York, NY, USA. https://doi.org/10.1145/3511808.3557608
@inproceedings{prado-romero2022gretel,
title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
isbn = {9781450392365},
year={2022},
doi = {10.1145/3511808.3557608},
booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
location = {Atlanta, GA, USA},
series = {CIKM '22}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj und Giovanni Stilo. 2023. Entwicklung und Bewertung der kontrafaktischen Erklärung von Graphen mit GRETEL. In Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining (WSDM '23). Association for Computing Machinery, New York, NY, USA, 1180–1183. https://doi.org/10.1145/3539597.3573026
@inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo und Fosca Giannotti. 2023. Eine Umfrage zu kontrafaktischen Erklärungen von Graphen: Definitionen, Methoden, Bewertung und Forschungsherausforderungen. ACM-Computing. Überleben. Gerade angenommen (September 2023). https://doi.org/10.1145/3618105
@article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}
Baumzyklen [3]: Synthetischer Datensatz, bei dem jede Instanz ein Diagramm ist. Die Instanz kann entweder ein Baum oder ein Baum mit mehreren Zyklusmustern sein, die über eine Kante mit dem Hauptgraphen verbunden sind
Baum-Unendlichkeit : Es folgt dem Ansatz der Baum-Zyklen, aber anstelle von Zyklen gibt es eine Unendlichkeitsform.
ASD [4]: Autismus-Spektrum-Störung (ASD), entnommen aus dem Autism Brain Imagine Data Exchange (ABIDE).
ADHS [4]: Aufmerksamkeitsdefizit-Hyperaktivitätsstörung (ADHS), entnommen aus der USC Multimodal Connectivity Database (USCD).
BBBP [5]: Die Permeation der Blut-Hirn-Schranke ist ein molekularer Datensatz. Vorhersage, ob ein Molekül die Blut-Hirn-Schranke durchdringen kann.
HIV [5]: Es handelt sich um einen molekularen Datensatz, der Verbindungen anhand ihrer Fähigkeit, HIV zu hemmen, klassifiziert.
KNN
SVM
GCN
ASD Custom Oracle [4] (Regeln speziell für den ASD-Datensatz)
Tree-Cycles Custom Oracle (Garantiert 100 % Genauigkeit des Tree-Cycles-Datensatzes)
DCE-Suche : Verteilungskonforme Erklärungssuche, die hauptsächlich als Basis verwendet wird, macht keine Annahmen über den zugrunde liegenden Datensatz und sucht darin nach einer kontrafaktischen Instanz.
Oblivious Bidirektionale Suche (OBS) [4]: Es handelt sich um eine heuristische Erklärungsmethode, die einen zweistufigen Ansatz verwendet.
Datengesteuerte bidirektionale Suche (DDBS) [4]: Sie folgt der gleichen Logik wie OBS. Der Hauptunterschied besteht darin, dass diese Methode die Wahrscheinlichkeit (berechnet anhand des Originaldatensatzes) jeder Kante verwendet, in einem Diagramm einer bestimmten Klasse zu erscheinen, um den kontrafaktischen Suchprozess voranzutreiben.
MACCS [5]: Model Agnostic Counterfactual Compounds with STONED (MACCS) wurde speziell für die Arbeit mit Molekülen entwickelt.
MEG [6]: Molecular Explanation Generator ist ein RL-basierter Erklärer für molekulare Diagramme.
CFF [7] ist eine lernbasierte Methode, die kontrafaktisches und sachliches Denken im Prozess der Störungsmaskengenerierung verwendet.
CLEAR [8] ist eine lernbasierte Erklärungsmethode, die generative kontrafaktische Erklärungen zu Diagrammen liefert.
CounteRGAN [9] ist eine Portierung einer GAN-basierten Erklärungsmethode für Bilder
Prado-Romero, MA und Stilo, G., 2022, Oktober. Gretel: Diagramm zur Bewertung kontrafaktischer Erklärungen. In Proceedings of the 31st ACM International Conference on Information & Knowledge Management (S. 4389-4393).
Prado-Romero, MA, Prenkaj, B. und Stilo, G., 2023, Februar. Entwicklung und Bewertung kontrafaktischer Grapherklärungen mit GRETEL. In Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining (S. 1180-1183).
Zhitao Ying, Dylan Bourgeois, Jiaxuan You, Marinka Zitnik und Jure Leskovec. 2019. Gnnexplainer: Generieren von Erklärungen für graphische neuronale Netze. Fortschritte in neuronalen Informationsverarbeitungssystemen 32 (2019)
Carlo Abrate und Francesco Bonchi. 2021. Kontrafaktische Diagramme zur erklärbaren Klassifizierung von Gehirnnetzwerken. In Proceedings der 27. ACM SIGKDD-Konferenz zu Knowledge Discovery & Data Mining. 2495–2504
Geemi P. Wellawatte, Aditi Seshadri und Andrew D. White. 2022. Modellunabhängige Generierung kontrafaktischer Erklärungen für Moleküle. Chemische Wissenschaft 13, 13 (2022), 3697–370
Numeroso, D. und Bacciu, D., 2021, Juli. Meg: Generierung molekularer kontrafaktischer Erklärungen für Deep-Graph-Netzwerke. Im Jahr 2021 International Joint Conference on Neural Networks (IJCNN) (S. 1-8). IEEE.
Tan, J., Geng, S., Fu, Z., Ge, Y., Xu, S., Li, Y. und Zhang, Y., 2022, April. Erlernen und Bewerten von Erklärungen zu grafischen neuronalen Netzen auf der Grundlage kontrafaktischer und sachlicher Überlegungen. In Proceedings of the ACM Web Conference 2022 (S. 1018-1027).
Ma, J., Guo, R., Mishra, S., Zhang, A. und Li, J., 2022. Klar: Generative kontrafaktische Erklärungen zu Diagrammen. Fortschritte in neuronalen Informationsverarbeitungssystemen, 35, S. 25895-25907.
Nemirovsky, D., Thiebaut, N., Xu, Y. und Gupta, A., 2022, August. CounteRGAN: Generierung von Kontrafaktualen für Echtzeit-Rückgriff und Interpretierbarkeit unter Verwendung von Rest-GANs. In Uncertainty in Artificial Intelligence (S. 1488-1497). PMLR.
