GRETEL
1.0.0
ระบบ Machine Learning (ML) เป็นส่วนสำคัญของเครื่องมือสมัยใหม่ที่ส่งผลกระทบต่อชีวิตประจำวันของเราในโดเมนแอปพลิเคชันต่างๆ เนื่องจากลักษณะของกล่องดำ ระบบเหล่านั้นจึงไม่ค่อยถูกนำมาใช้ในขอบเขตของแอปพลิเคชัน (เช่น สุขภาพ การเงิน) ซึ่งการทำความเข้าใจกระบวนการตัดสินใจมีความสำคัญยิ่ง วิธีการอธิบายได้รับการพัฒนาเพื่ออธิบายว่าแบบจำลอง ML ได้ทำการตัดสินใจเฉพาะสำหรับกรณี/อินสแตนซ์ที่กำหนดอย่างไร Graph Counterfactual Explanations (GCE) เป็นหนึ่งในเทคนิคการอธิบายที่นำมาใช้ในโดเมนการเรียนรู้กราฟ งานที่มีอยู่เกี่ยวกับคำอธิบายที่โต้แย้งด้วยกราฟนั้นส่วนใหญ่มีความแตกต่างกันในคำจำกัดความของปัญหา โดเมนแอปพลิเคชัน ข้อมูลการทดสอบ และตัวชี้วัดการประเมิน และงานที่มีอยู่ส่วนใหญ่ไม่ได้เปรียบเทียบอย่างละเอียดถี่ถ้วนกับเทคนิคคำอธิบายที่โต้แย้งอื่น ๆ ที่มีอยู่ในวรรณกรรม ที่นี่ เราเปิดตัว GRETEL [1,2] ซึ่งเป็นเฟรมเวิร์กแบบรวมเพื่อพัฒนาและทดสอบวิธี GCE ในการตั้งค่าต่างๆ GRETEL [1,2] เป็นเฟรมเวิร์กโอเพ่นซอร์สสำหรับการประเมินวิธีการอธิบายเชิงโต้แย้งของกราฟ มันถูกนำไปใช้โดยใช้กระบวนทัศน์เชิงวัตถุและรูปแบบการออกแบบวิธีการจากโรงงาน เป้าหมายหลักของเราคือการสร้างแพลตฟอร์มทั่วไปที่ช่วยให้นักวิจัยสามารถเร่งกระบวนการพัฒนาและทดสอบวิธีการอธิบายเชิงโต้แย้งด้วยกราฟแบบใหม่ได้ GRETEL เป็นกรอบการประเมินผลที่ขยายได้สูง ซึ่งส่งเสริม Open Science และความสามารถในการทำซ้ำของการประเมิน โดยจัดเตรียมชุดกลไกที่กำหนดไว้อย่างดีเพื่อบูรณาการและจัดการได้อย่างง่ายดาย: ทั้งชุดข้อมูลจริงและสังเคราะห์ แบบจำลอง ML เทคนิคการอธิบายที่ล้ำสมัย และมาตรการประเมินผล
GRETEL [1, 2] เป็นเฟรมเวิร์กโอเพ่นซอร์สสำหรับการประเมินวิธีการอธิบายเชิงโต้แย้งของกราฟ มันถูกนำไปใช้โดยใช้กระบวนทัศน์เชิงวัตถุและรูปแบบการออกแบบวิธีการจากโรงงาน เป้าหมายหลักของเราคือการสร้างแพลตฟอร์มทั่วไปที่ช่วยให้นักวิจัยสามารถเร่งกระบวนการพัฒนาและทดสอบวิธีการอธิบายเชิงโต้แย้งด้วยกราฟแบบใหม่ได้
ดูวิกิของ GRETEL
โปรดอ้างอิงเอกสารของเราหากคุณใช้ GRETEL ในโครงการของคุณ:
มาริโอ อัลฟอนโซ ปราโด-โรเมโร และจิโอวานนี สติโล 2022. GRETEL: กรอบการประเมินคำอธิบายที่ขัดแย้งกับข้อเท็จจริงของกราฟ ในการดำเนินการประชุมนานาชาติ ACM เรื่องการจัดการข้อมูลและความรู้ ครั้งที่ 31 (CIKM '22) สมาคมเครื่องจักรคอมพิวเตอร์ นิวยอร์ก รัฐนิวยอร์ก สหรัฐอเมริกา https://doi.org/10.1145/3511808.3557608
@inproceedings{prado-romero2022gretel,
title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
isbn = {9781450392365},
year={2022},
doi = {10.1145/3511808.3557608},
booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
location = {Atlanta, GA, USA},
series = {CIKM '22}
}
มาริโอ อัลฟอนโซ ปราโด-โรเมโร, บาร์ธ เพรนกัจ และจิโอวานนี สติโล 2023. การพัฒนาและประเมินคำอธิบายที่ขัดแย้งกับข้อเท็จจริงของกราฟกับ GRETEL ในการดำเนินการประชุมนานาชาติ ACM ครั้งที่ 16 ว่าด้วยการค้นหาเว็บและการขุดข้อมูล (WSDM '23) สมาคมเครื่องจักรคอมพิวเตอร์, New York, NY, USA, 1180–1183 https://doi.org/10.1145/3539597.3573026
@inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}
มาริโอ อัลฟอนโซ ปราโด-โรเมโร, บาร์ดห์ เพรนกัจ, จิโอวานนี สติโล และฟอสก้า จิอันนอตติ 2566. การสำรวจคำอธิบายเชิงโต้แย้งของกราฟ: คำจำกัดความ วิธีการ การประเมิน และความท้าทายในการวิจัย เอซีเอ็ม คอมพิวเตอร์ เอาชีวิตรอด เพิ่งได้รับการยอมรับ (กันยายน 2023) https://doi.org/10.1145/3618105
@article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}
วงจรต้นไม้ [3]: ชุดข้อมูลสังเคราะห์โดยที่แต่ละอินสแตนซ์เป็นกราฟ อินสแตนซ์อาจเป็นแบบต้นไม้หรือต้นไม้ที่มีรูปแบบวงจรหลายรูปแบบเชื่อมต่อกับกราฟหลักด้วยขอบด้านเดียว
Tree-Infinity : มันเป็นไปตามแนวทางของ Tree-Cycles แต่แทนที่จะเป็นวงจร กลับมีรูปร่างที่ไม่มีที่สิ้นสุด
ASD [4]: ความผิดปกติของออทิสติกสเปกตรัม (ASD) ที่นำมาจากการแลกเปลี่ยนข้อมูลจินตนาการของสมองออทิสติก (ABIDE)
ADHD [4]: โรคสมาธิสั้น (ADHD) นำมาจากฐานข้อมูลการเชื่อมต่อหลายรูปแบบของ USC (USCD)
BBBP [5]: Blood-Brain Barrier Permeation เป็นชุดข้อมูลระดับโมเลกุล ทำนายว่าโมเลกุลสามารถซึมผ่านอุปสรรคเลือดและสมองได้หรือไม่
HIV [5]: เป็นชุดข้อมูลระดับโมเลกุลที่จำแนกสารประกอบตามความสามารถในการยับยั้ง HIV
เคเอ็นเอ็น
สวีเอ็ม
จีซีเอ็น
ASD Custom Oracle [4] (กฎเฉพาะสำหรับชุดข้อมูล ASD)
Oracle แบบกำหนดเองของ Tree-Cycles (รับประกันความแม่นยำ 100% บนชุดข้อมูล Tree-Cycles)
การค้นหา DCE : การค้นหาคำอธิบายที่สอดคล้องกับการกระจาย ซึ่งส่วนใหญ่ใช้เป็นข้อมูลพื้นฐาน ไม่ได้ตั้งสมมติฐานใดๆ เกี่ยวกับชุดข้อมูลพื้นฐานและค้นหาอินสแตนซ์ที่ขัดแย้งกับข้อเท็จจริงในชุดข้อมูลนั้น
Oblivious BiDirectional Search (OBS) [4]: เป็นวิธีการอธิบายแบบฮิวริสติกที่ใช้แนวทาง 2 ขั้นตอน
การค้นหาแบบสองทิศทางที่ขับเคลื่อนด้วยข้อมูล (DDBS) [4]: เป็นไปตามตรรกะเดียวกันกับ OBS ข้อแตกต่างที่สำคัญคือวิธีนี้ใช้ความน่าจะเป็น (คำนวณจากชุดข้อมูลดั้งเดิม) ของแต่ละ Edge เพื่อให้ปรากฏในกราฟของคลาสบางคลาสเพื่อขับเคลื่อนกระบวนการค้นหาที่ขัดแย้งกับข้อเท็จจริง
MACCS [5]: Model Agnostic Counterfactual Compounds with STONED (MACCS) ได้รับการออกแบบมาเป็นพิเศษเพื่อทำงานกับโมเลกุล
MEG [6]: Molecular Explanation Generator เป็นตัวอธิบายที่ใช้ RL สำหรับกราฟโมเลกุล
CFF [7] เป็นวิธีการเรียนรู้ที่ใช้เหตุผลโต้แย้งและข้อเท็จจริงในกระบวนการสร้างรูปแบบการก่อกวน
CLEAR [8] เป็นวิธีการเรียนรู้ที่ใช้คำอธิบายเป็นพื้นฐานซึ่งให้คำอธิบายเชิงโต้แย้งแบบเจนเนอเรชั่นบนกราฟ
CounteRGAN [9] เป็นการย้ายวิธีการอธิบายแบบ GAN สำหรับรูปภาพ
Prado-Romero, MA และ Stilo, G., 2022, ตุลาคม Gretel: กรอบการประเมินคำอธิบายที่ขัดแย้งกับกราฟ ในการดำเนินการของการประชุมนานาชาติ ACM เรื่องข้อมูลและการจัดการความรู้ ครั้งที่ 31 (หน้า 4389-4393)
Prado-Romero, MA, Prenkaj, B. และ Stilo, G., 2023, กุมภาพันธ์ การพัฒนาและประเมินคำอธิบายที่ขัดแย้งกับข้อเท็จจริงของกราฟด้วย GRETEL ในการดำเนินการประชุมนานาชาติ ACM ครั้งที่สิบหกว่าด้วยการค้นหาเว็บและการขุดข้อมูล (หน้า 1180-1183)
จือเทา หยิง, ดีแลน บูร์ชัวส์, เจียซวน โหยว, มารินกา ซิตนิค และจูเร เลสโคเวค 2019 Gnnexplainer: การสร้างคำอธิบายสำหรับโครงข่ายประสาทเทียมแบบกราฟ ความก้าวหน้าในระบบประมวลผลข้อมูลประสาท 32 (2019)
คาร์โล อบราเต และฟรานเชสโก บอนชี 2564. กราฟที่ขัดแย้งกันสำหรับการจำแนกประเภทเครือข่ายสมองที่อธิบายได้ ในการดำเนินการประชุม ACM SIGKDD ครั้งที่ 27 เรื่องการค้นพบความรู้และการขุดข้อมูล พ.ศ. 2495–2504
เจมี พี เวลลาวัตเต, อดิติ เซชาดรี และแอนดรูว์ ดี ไวท์ 2022. สร้างแบบจำลองคำอธิบายที่ขัดแย้งกับข้อเท็จจริงเกี่ยวกับโมเลกุลโดยไม่เชื่อเรื่องพระเจ้า วิทยาศาสตร์เคมี 13, 13 (2022), 3697–370
Numeroso, D. และ Bacciu, D., 2021, กรกฎาคม เม็ก: การสร้างคำอธิบายเชิงโมเลกุลที่ขัดแย้งกับข้อเท็จจริงสำหรับเครือข่ายกราฟระดับลึก ในปี 2564 การประชุมร่วมระหว่างประเทศว่าด้วยโครงข่ายประสาทเทียม (IJCNN) (หน้า 1-8) อีอีอี
Tan, J., Geng, S., Fu, Z., Ge, Y., Xu, S., Li, Y. และ Zhang, Y., 2022, เมษายน การเรียนรู้และการประเมินคำอธิบายโครงข่ายประสาทเทียมแบบกราฟโดยอิงตามการให้เหตุผลโต้แย้งและข้อเท็จจริง ใน รายงานการประชุม ACM Web Conference 2022 (หน้า 1018-1027)
Ma, J. , Guo, R. , Mishra, S. , Zhang, A. และ Li, J. , 2022 ชัดเจน: คำอธิบายเชิงโต้แย้งเชิงสร้างสรรค์บนกราฟ ความก้าวหน้าในระบบประมวลผลข้อมูลประสาท, 35, หน้า 25895-25907
Nemirovsky, D., Thiebaut, N., Xu, Y. และ Gupta, A., 2022, สิงหาคม CounteRGAN: การสร้างข้อเท็จจริงที่ขัดแย้งกันสำหรับการขอความช่วยเหลือและการตีความแบบเรียลไทม์โดยใช้ GAN ที่เหลือ ในความไม่แน่นอนในปัญญาประดิษฐ์ (หน้า 1488-1497) PMLR.
