GRETEL
1.0.0
Os sistemas de aprendizado de máquina (ML) são parte integrante das ferramentas modernas que impactam nossa vida diária em diversos domínios de aplicação. Devido à sua natureza de caixa negra, esses sistemas dificilmente são adoptados em domínios de aplicação (por exemplo, saúde, finanças) onde a compreensão do processo de decisão é de suma importância. Métodos de explicação foram desenvolvidos para explicar como o modelo ML tomou uma decisão específica para um determinado caso/instância. Explicações contrafactuais de grafos (GCE) é uma das técnicas de explicação adotadas no domínio de aprendizagem de grafos. Os trabalhos existentes sobre explicações contrafactuais em grafos divergem principalmente na definição do problema, domínio de aplicação, dados de teste e métricas de avaliação, e a maioria dos trabalhos existentes não se comparam exaustivamente com outras técnicas de explicação contrafactual presentes na literatura. Aqui, lançamos GRETEL [1,2], uma estrutura unificada para desenvolver e testar métodos GCE em diversos ambientes. GRETEL [1,2] é uma estrutura de código aberto para avaliação de métodos de explicação contrafactual de grafos. Ele é implementado usando o paradigma Orientado a Objetos e o padrão de design Factory Method. Nosso principal objetivo é criar uma plataforma genérica que permita aos pesquisadores agilizar o processo de desenvolvimento e teste de novos métodos de explicação contrafactual em grafos. GRETEL é uma estrutura de avaliação altamente extensível que promove a Ciência Aberta e a reprodutibilidade da avaliação, fornecendo um conjunto de mecanismos bem definidos para integrar e gerenciar facilmente: conjuntos de dados reais e sintéticos, modelos de ML, técnicas de explicação de última geração e medidas de avaliação.
GRETEL [1, 2] é uma estrutura de código aberto para avaliação de métodos de explicação contrafactual de grafos. Ele é implementado usando o paradigma Orientado a Objetos e o padrão de design Factory Method. Nosso principal objetivo é criar uma plataforma genérica que permita aos pesquisadores agilizar o processo de desenvolvimento e teste de novos métodos de explicação contrafactual em grafos.
Veja o wiki do GRETEL
Por favor, cite nossos artigos se você usa GRETEL em seus projetos:
Mario Alfonso Prado-Romero e Giovanni Stilo. 2022. GRETEL: Estrutura de avaliação de explicação contrafactual gráfica. Nos Anais da 31ª Conferência Internacional ACM sobre Gestão da Informação e do Conhecimento (CIKM '22). Association for Computing Machinery, Nova York, NY, EUA. https://doi.org/10.1145/3511808.3557608
@inproceedings{prado-romero2022gretel,
title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
isbn = {9781450392365},
year={2022},
doi = {10.1145/3511808.3557608},
booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
location = {Atlanta, GA, USA},
series = {CIKM '22}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj e Giovanni Stilo. 2023. Desenvolvimento e avaliação de explicação contrafactual gráfica com GRETEL. Nos Anais da Décima Sexta Conferência Internacional ACM sobre Pesquisa na Web e Mineração de Dados (WSDM '23). Association for Computing Machinery, Nova York, NY, EUA, 1180–1183. https://doi.org/10.1145/3539597.3573026
@inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo e Fosca Giannotti. 2023. Uma pesquisa sobre explicações contrafactuais gráficas: definições, métodos, avaliação e desafios de pesquisa. ACM Computação. Sobreviver. Acabei de aceitar (setembro de 2023). https://doi.org/10.1145/3618105
@article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}
Tree-Cycles [3]: Conjunto de dados sintéticos onde cada instância é um gráfico. A instância pode ser uma árvore ou uma árvore com vários padrões de ciclo conectados ao gráfico principal por uma aresta
Árvore-Infinito : Segue a abordagem dos Ciclos-Árvore, mas em vez de ciclos, existe uma forma de infinito.
ASD [4]: Transtorno do Espectro do Autismo (ASD) retirado do Autism Brain Imagine Data Exchange (ABIDE).
TDAH [4]: Transtorno de Déficit de Atenção e Hiperatividade (TDAH), retirado do Banco de Dados de Conectividade Multimodal da USC (USCD).
BBBP [5]: A permeação da barreira hematoencefálica é um conjunto de dados moleculares. Prever se uma molécula pode permear a barreira hematoencefálica.
HIV [5]: É um conjunto de dados moleculares que classifica compostos com base na sua capacidade de inibir o HIV.
KNN
SVM
GCN
ASD Custom Oracle [4] (regras específicas para o conjunto de dados ASD)
Tree-Cycles Custom Oracle (garante 100% de precisão no conjunto de dados Tree-Cycles)
Pesquisa DCE : Pesquisa de explicação compatível com distribuição, usada principalmente como linha de base, não faz nenhuma suposição sobre o conjunto de dados subjacente e pesquisa uma instância contrafactual nele.
Pesquisa Bidirecional Alheia (OBS) [4]: É um método de explicação heurística que usa uma abordagem de 2 estágios.
Pesquisa Bidirecional Orientada a Dados (DDBS) [4]: Segue a mesma lógica do OBS. A principal diferença é que este método usa a probabilidade (calculada no conjunto de dados original) de cada aresta aparecer em um gráfico de uma determinada classe para conduzir o processo de pesquisa contrafactual.
MACCS [5]: Modelo de Compostos Contrafactuais Agnósticos com STONED (MACCS) é projetado especificamente para trabalhar com moléculas.
MEG [6]: Molecular Explanation Generator é um explicador baseado em RL para gráficos moleculares.
CFF [7] É um método baseado em aprendizagem que utiliza raciocínio contrafactual e factual no processo de geração de máscara de perturbação.
CLEAR [8] é um método de explicação baseado em aprendizagem que fornece explicações contrafactuais generativas em gráficos.
CounteRGAN [9] é uma portabilidade de um método de explicação baseado em GAN para imagens
Prado-Romero, MA e Stilo, G., 2022, outubro. Gretel: Estrutura de avaliação de explicação contrafactual em gráfico. Nos Anais da 31ª Conferência Internacional ACM sobre Gestão de Informação e Conhecimento (pp. 4389-4393).
Prado-Romero, MA, Prenkaj, B. e Stilo, G., 2023, fevereiro. Desenvolvendo e avaliando explicação contrafactual de gráfico com GRETEL. Nos Anais da Décima Sexta Conferência Internacional da ACM sobre Pesquisa na Web e Mineração de Dados (pp. 1180-1183).
Zhitao Ying, Dylan Bourgeois, Jiaxuan You, Marinka Zitnik e Jure Leskovec. 2019. Gnnexplainer: Gerando explicações para redes neurais de grafos. Avanços em sistemas de processamento de informações neurais 32 (2019)
Carlo Abrate e Francesco Bonchi. 2021. Gráficos contrafactuais para classificação explicável de redes cerebrais. Nos Anais da 27ª Conferência ACM SIGKDD sobre Descoberta de Conhecimento e Mineração de Dados. 2495–2504
Geemi P Wellawatte, Aditi Seshadri e Andrew D White. 2022. Modelo de geração agnóstica de explicações contrafactuais para moléculas. Ciência Química 13, 13 (2022), 3697–370
Numeroso, D. e Bacciu, D., 2021, julho. Meg: Gerando explicações contrafactuais moleculares para redes de grafos profundos. Em 2021, Conferência Conjunta Internacional sobre Redes Neurais (IJCNN) (pp. 1-8). IEEE.
Tan, J., Geng, S., Fu, Z., Ge, Y., Xu, S., Li, Y. e Zhang, Y., 2022, abril. Aprender e avaliar explicações de redes neurais gráficas com base em raciocínios contrafactuais e factuais. Nos Anais da ACM Web Conference 2022 (pp. 1018-1027).
Ma, J., Guo, R., Mishra, S., Zhang, A. e Li, J., 2022. Claro: explicações contrafactuais gerativas em gráficos. Avanços em Sistemas de Processamento de Informação Neural, 35, pp.25895-25907.
Nemirovsky, D., Thiebaut, N., Xu, Y. e Gupta, A., 2022, agosto. CounteRGAN: Gerando contrafactuais para recurso e interpretabilidade em tempo real usando GANs residuais. Em Incerteza em Inteligência Artificial (pp. 1488-1497). PMLR.
