GRETEL
1.0.0
기계 학습(ML) 시스템은 여러 응용 분야에서 우리의 일상 생활에 영향을 미치는 최신 도구의 일부를 구축하는 것입니다. 블랙박스 특성으로 인해 이러한 시스템은 의사결정 프로세스를 이해하는 것이 가장 중요한 응용 분야(예: 건강, 금융)에서는 거의 채택되지 않습니다. ML 모델이 특정 사례/사례에 대해 특정 결정을 내린 방법을 설명하기 위해 설명 방법이 개발되었습니다. 그래프 반사실적 설명(GCE)은 그래프 학습 영역에서 채택된 설명 기술 중 하나입니다. 그래프 반사실적 설명에 대한 기존 작업은 대부분 문제 정의, 응용 영역, 테스트 데이터 및 평가 지표에서 다양하며 대부분의 기존 작업은 문헌에 있는 다른 반사실적 설명 기술과 철저하게 비교되지 않습니다. 여기에서는 여러 설정에서 GCE 방법을 개발하고 테스트하기 위한 통합 프레임워크인 GRETEL [1,2]를 출시합니다. GRETEL [1,2]는 그래프 반사실 설명 방법 평가를 위한 오픈 소스 프레임워크입니다. 이는 객체 지향 패러다임과 팩토리 메소드 디자인 패턴을 사용하여 구현됩니다. 우리의 주요 목표는 연구자들이 새로운 그래프 반사실 설명 방법을 개발하고 테스트하는 프로세스의 속도를 높일 수 있는 일반 플랫폼을 만드는 것입니다. GRETEL은 쉽게 통합하고 관리할 수 있는 잘 정의된 메커니즘 세트(실제 데이터세트와 합성 데이터세트, ML 모델, 최첨단 설명 기술)를 제공하여 개방형 과학과 평가의 재현성을 촉진하는 확장성이 뛰어난 평가 프레임워크입니다. 및 평가 조치.
GRETEL [1, 2]는 그래프 반사실 설명 방법 평가를 위한 오픈 소스 프레임워크입니다. 이는 객체 지향 패러다임과 팩토리 메소드 디자인 패턴을 사용하여 구현됩니다. 우리의 주요 목표는 연구자들이 새로운 그래프 반사실 설명 방법을 개발하고 테스트하는 프로세스의 속도를 높일 수 있는 일반 플랫폼을 만드는 것입니다.
GRETEL의 위키를 참조하세요.
귀하의 프로젝트에서 GRETEL을 사용하는 경우 당사 논문을 인용해 주십시오:
마리오 알폰소 프라도-로메로와 조반니 스틸로. 2022. GRETEL: 그래프 반사실적 설명 평가 프레임워크. 제31회 ACM 정보 및 지식 관리 국제 컨퍼런스(CIKM '22) 진행 중. 컴퓨터 기계 협회, 뉴욕, 뉴욕, 미국. https://doi.org/10.1145/3511808.3557608
@inproceedings{prado-romero2022gretel,
title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
isbn = {9781450392365},
year={2022},
doi = {10.1145/3511808.3557608},
booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
location = {Atlanta, GA, USA},
series = {CIKM '22}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo. 2023. GRETEL을 이용한 그래프 반사실 설명 개발 및 평가. 웹 검색 및 데이터 마이닝에 관한 제16차 ACM 국제 회의(WSDM '23) 진행 중. 컴퓨팅 기계 협회, 뉴욕, 뉴욕, 미국, 1180-1183. https://doi.org/10.1145/3539597.3573026
@inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}
Mario Alfonso Prado-Romero, Bardh Prenkaj, Giovanni Stilo 및 Fosca Giannotti. 2023. 그래프 반사실적 설명에 대한 조사: 정의, 방법, 평가 및 연구 과제. ACM 컴퓨팅. 생존 방금 수락했습니다(2023년 9월). https://doi.org/10.1145/3618105
@article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}
트리 사이클 [3]: 각 인스턴스가 그래프인 합성 데이터 세트입니다. 인스턴스는 하나의 간선으로 기본 그래프에 연결된 여러 주기 패턴이 있는 트리 또는 트리일 수 있습니다.
Tree-Infinity : Tree-Cycles의 접근 방식을 따르지만, 순환 대신 무한대의 형태가 있습니다.
ASD [4]: Autism Brain Imagine Data Exchange(ABIDE)에서 가져온 자폐 스펙트럼 장애(ASD).
ADHD [4]: ADHD(주의력 결핍 과잉 행동 장애)는 USC Multimodal Connectivity Database(USCD)에서 가져온 것입니다.
BBBP [5]: 혈액뇌장벽 투과는 분자 데이터세트입니다. 분자가 혈액뇌관문을 투과할 수 있는지 예측합니다.
HIV [5]: HIV를 억제하는 능력을 기준으로 화합물을 분류하는 분자 데이터 세트입니다.
KNN
SVM
GCN
ASD Custom Oracle [4](ASD 데이터세트 관련 규칙)
Tree-Cycles Custom Oracle (Tree-Cycles 데이터세트에서 100% 정확도 보장)
DCE 검색 : 배포 준수 설명 주로 기준선으로 사용되는 검색은 기본 데이터 세트에 대해 어떠한 가정도 하지 않고 그 안에 있는 반사실적 인스턴스를 검색합니다.
Oblivious Bidirection Search(OBS) [4]: 2단계 접근 방식을 사용하는 휴리스틱 설명 방법입니다.
DDBS(데이터 기반 양방향 검색) [4]: OBS와 동일한 논리를 따릅니다. 주요 차이점은 이 방법은 반사실적 검색 프로세스를 구동하기 위해 특정 클래스의 그래프에 나타나는 각 가장자리의 확률(원래 데이터세트에서 계산됨)을 사용한다는 것입니다.
MACCS [5]: STONED(MACCS)를 사용한 모델 불가지론 반사실 화합물은 분자와 함께 작동하도록 특별히 설계되었습니다.
MEG [6]: 분자 설명 생성기는 RL 기반 분자 그래프 설명입니다.
CFF [7]는 섭동 마스크 생성 과정에서 반사실적 추론과 사실 추론을 사용하는 학습 기반 방법입니다.
CLEAR [8]는 그래프에 생성적 반사실 설명을 제공하는 학습 기반 설명 방법입니다.
CounteRGAN [9]은 GAN 기반의 이미지 설명 방법을 이식한 것입니다.
Prado-Romero, MA 및 Stilo, G., 2022년 10월. Gretel: 그래프 반사실적 설명 평가 프레임워크. 제31차 ACM 정보 및 지식 경영 국제 컨퍼런스 진행 중(pp. 4389-4393).
Prado-Romero, MA, Prenkaj, B. 및 Stilo, G., 2023년 2월. GRETEL을 이용한 그래프 반사실적 설명 개발 및 평가. 웹 검색 및 데이터 마이닝에 관한 제16차 ACM 국제 회의 진행 중(pp. 1180-1183).
Zhitao Ying, Dylan Bourgeois, Jiaxuan You, Marinka Zitnik 및 Jure Leskovec. 2019. Gnnexplainer: 그래프 신경망에 대한 설명 생성. 신경 정보 처리 시스템의 발전 32(2019)
카를로 아브라테와 프란체스코 본치. 2021. 뇌 네트워크의 설명 가능한 분류를 위한 반사실적 그래프. 지식 발견 및 데이터 마이닝에 관한 제27차 ACM SIGKDD 컨퍼런스 진행 중. 2495년~2504년
Geemi P Wellawatte, Aditi Seshadri 및 Andrew D White. 2022. 분자에 대한 반사실적 설명의 모델 불가지론적 생성. 화학 13, 13(2022), 3697–370
Numeroso, D. 및 Bacciu, D., 2021년 7월. 메그: 심층 그래프 네트워크에 대한 분자 반사실적 설명을 생성합니다. 2021년 신경망 국제합동컨퍼런스(IJCNN) (pp. 1-8). IEEE.
Tan, J., Geng, S., Fu, Z., Ge, Y., Xu, S., Li, Y. 및 Zhang, Y., 2022년 4월. 반사실적 및 사실적 추론을 기반으로 그래프 신경망 설명을 학습하고 평가합니다. ACM 웹 컨퍼런스 2022 간행물(pp. 1018-1027).
Ma, J., Guo, R., Mishra, S., Zhang, A. 및 Li, J., 2022. 명확: 그래프에 대한 생성적 반사실적 설명. 신경 정보 처리 시스템의 발전, 35, pp.25895-25907.
Nemirovsky, D., Thiebaut, N., Xu, Y. 및 Gupta, A., 2022년 8월. CounterRGAN: 잔여 GAN을 사용하여 실시간 의지 및 해석성을 위한 반사실적을 생성합니다. 인공 지능의 불확실성(pp. 1488-1497). PMLR.
