Загрузка GRETEL - Загрузка исходного кода GRETEL

GRETEL

Другой исходный код

1.0.0

Скачать

GRETEL (v2.0): Схема оценки контрфактического объяснения графиков

Общая информация:

Системы машинного обучения (ML) являются составной частью современных инструментов, которые влияют на нашу повседневную жизнь в нескольких областях приложений. Из-за своей природы «черного ящика» эти системы вряд ли применяются в прикладных областях (например, в здравоохранении, финансах), где понимание процесса принятия решений имеет первостепенное значение. Методы объяснения были разработаны, чтобы объяснить, как модель МО приняла конкретное решение для данного случая/экземпляра. Контрфактические объяснения графиков (GCE) — это один из методов объяснения, принятых в области обучения графам. Существующие работы по контрфактическим объяснениям графов расходятся в основном по определению проблемы, области применения, тестовым данным и метрикам оценки, и большинство существующих работ не сравниваются исчерпывающе с другими методами контрфактического объяснения, представленными в литературе. Здесь мы выпускаем GRETEL [1,2], единую среду для разработки и тестирования методов GCE в нескольких условиях. GRETEL [1,2] — это платформа с открытым исходным кодом для оценки методов контрфактического объяснения графов. Он реализован с использованием объектно-ориентированной парадигмы и шаблона проектирования «Фабричный метод». Наша главная цель — создать общую платформу, которая позволит исследователям ускорить процесс разработки и тестирования новых методов контрфактического объяснения графов. GRETEL — это расширяемая среда оценки, которая способствует развитию открытой науки и воспроизводимости оценки, предоставляя набор четко определенных механизмов для простой интеграции и управления: как реальные, так и синтетические наборы данных, модели машинного обучения, современные методы объяснения. и меры оценки.

Информация о команде:

Проф. Джованни Стило [руководитель проекта/исследователь]
Марио Альфонсо Прадо Ромеро [главный следователь]
Доктор Бард Пренкадж [известный исследователь]
Хирам Борболла Эрнандес [известный участник]
Роберто Марти Седеньо [известный участник]
Алессандро Чели [административный персонал]

Предыдущие участники:

Эрнесто Эстеванелл-Валладарес [автор]
Даниэль Алехандро Вальдес-Перес [автор]

Общая информация:

GRETEL [1, 2] — это платформа с открытым исходным кодом для оценки методов контрфактического объяснения графов. Он реализован с использованием объектно-ориентированной парадигмы и шаблона проектирования «Фабричный метод». Наша главная цель — создать общую платформу, которая позволит исследователям ускорить процесс разработки и тестирования новых методов контрфактического объяснения графов.

Первые шаги с GRETEL:

См. вики GRETEL.

Приветствуются цитаты:

Пожалуйста, цитируйте наши статьи, если вы используете GRETEL в своих проектах:

Марио Альфонсо Прадо-Ромеро и Джованни Стило. 2022. GRETEL: Схема оценки контрфактического объяснения графиков. В материалах 31-й Международной конференции ACM по управлению информацией и знаниями (CIKM '22). Ассоциация вычислительной техники, Нью-Йорк, штат Нью-Йорк, США. https://doi.org/10.1145/3511808.3557608

 @inproceedings{prado-romero2022gretel,
  title={GRETEL: Graph Counterfactual Explanation Evaluation Framework},
  author={Prado-Romero, Mario Alfonso and Stilo, Giovanni},
  publisher = {Association for Computing Machinery},
  address = {New York, NY, USA},
  isbn = {9781450392365},
  year={2022},
  doi = {10.1145/3511808.3557608},
  booktitle={Proceedings of the 31st ACM International Conference on Information and Knowledge Management},
  location = {Atlanta, GA, USA},
  series = {CIKM '22}
}

Марио Альфонсо Прадо-Ромеро, Бард Пренкай и Джованни Стило. 2023. Разработка и оценка контрфактического объяснения графов с помощью GRETEL. В материалах шестнадцатой Международной конференции ACM по веб-поиску и интеллектуальному анализу данных (WSDM '23). Ассоциация вычислительной техники, Нью-Йорк, штат Нью-Йорк, США, 1180–1183. https://doi.org/10.1145/3539597.3573026

 @inproceedings{prado-romero2023developing,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni},
title = {Developing and Evaluating Graph Counterfactual Explanation with GRETEL},
year = {2023},
isbn = {9781450394079},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
doi = {10.1145/3539597.3573026},
booktitle = {Proceedings of the Sixteenth ACM International Conference on Web Search and Data Mining},
pages = {1180–1183},
location = {Singapore, Singapore},
series = {WSDM '23}
}

Марио Альфонсо Прадо-Ромеро, Бард Пренкай, Джованни Стило и Фоска Джаннотти. 2023. Обзор контрфактических объяснений графиков: определения, методы, оценка и проблемы исследования. АКМ Компьютер. Выж. Только что принято (сентябрь 2023 г.). https://doi.org/10.1145/3618105

 @article{prado-romero2023survey,
author = {Prado-Romero, Mario Alfonso and Prenkaj, Bardh and Stilo, Giovanni and Giannotti, Fosca},
title = {A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges},
year = {2023},
publisher = {Association for Computing Machinery},
address = {New York, NY, USA},
issn = {0360-0300},
url = {https://doi.org/10.1145/3618105},
doi = {10.1145/3618105},
journal = {ACM Comput. Surv.},
month = {sep}
}

Ресурсы, предоставляемые вместе с Framework:

Наборы данных:

Древовидные циклы [3]: синтетический набор данных, каждый экземпляр которого представляет собой график. Экземпляр может быть либо деревом, либо деревом с несколькими шаблонами циклов, соединенными с основным графом одним ребром.
Дерево-Бесконечность : следует подходу Древовидных Циклов, но вместо циклов используется форма бесконечности.
РАС [4]: Расстройство аутистического спектра (РАС), взято из обмена данными об аутистическом мозге (ABIDE).
СДВГ [4]: синдром дефицита внимания и гиперактивности (СДВГ), взят из базы данных мультимодальных связей USC (USCD).
BBBP [5]: Проникновение гематоэнцефалического барьера представляет собой набор молекулярных данных. Предсказание, сможет ли молекула проникнуть через гематоэнцефалический барьер.
ВИЧ [5]: это набор молекулярных данных, который классифицирует соединения на основе их способности ингибировать ВИЧ.

Оракулы:

КНН
СВМ
GCN
ASD Custom Oracle [4] (Правила, специфичные для набора данных ASD)
Пользовательский Oracle Tree-Cycles (гарантирует 100% точность набора данных Tree-Cycles)

Объяснители:

Поиск DCE : поиск с объяснением, совместимым с распределением, который в основном используется в качестве базовой линии, не делает никаких предположений о базовом наборе данных и ищет в нем противоречащий фактам экземпляр.
Забывчивый двунаправленный поиск (OBS) [4]: это эвристический метод объяснения, использующий двухэтапный подход.
Двунаправленный поиск на основе данных (DDBS) [4]: он следует той же логике, что и OBS. Основное отличие состоит в том, что этот метод использует вероятность (вычисленную на основе исходного набора данных) появления каждого ребра на графе определенного класса для управления процессом поиска, противоречащего фактам.
MACCS [5]: Модель агностических контрфактических соединений с STONED (MACCS) специально разработана для работы с молекулами.
MEG [6]: Генератор молекулярных объяснений — это объяснение молекулярных графов на основе RL.
CFF [7] — это метод, основанный на обучении, который использует контрфактическое и фактическое рассуждение в процессе генерации маски возмущений.
CLEAR [8] — это метод объяснения, основанный на обучении, который обеспечивает генеративные контрфактические объяснения на графиках.
CounteRGAN [9] — это портирование метода объяснения изображений на основе GAN.

Ссылки

Прадо-Ромеро, М.А. и Стило, Г., октябрь 2022 г. Гретель: Схема оценки контрфактического объяснения графов. В материалах 31-й Международной конференции ACM по управлению информацией и знаниями (стр. 4389-4393).
Прадо-Ромеро, М.А., Пренкай, Б. и Стило, Г., февраль 2023 г. Разработка и оценка контрфактического объяснения графов с помощью GRETEL. В материалах шестнадцатой Международной конференции ACM по веб-поиску и интеллектуальному анализу данных (стр. 1180–1183).
Житао Ин, Дилан Буржуа, Цзясюань Ю, Маринка Зитник и Юре Лесковец. 2019. Gnnexplainer: Генерация объяснений графовых нейронных сетей. Достижения в области нейронных систем обработки информации 32 (2019)
Карло Абрате и Франческо Бончи. 2021. Контрфактические графы для объяснимой классификации сетей мозга. В материалах 27-й конференции ACM SIGKDD по обнаружению знаний и интеллектуальному анализу данных. 2495–2504 гг.
Гими П. Веллаватте, Адити Сешадри и Эндрю Д. Уайт. 2022. Независимая от модели генерация контрфактических объяснений молекул. Химические науки 13, 13 (2022), 3697–370
Нумеросо Д. и Баччу Д., июль 2021 г. Мэг: Создание молекулярных контрфактических объяснений для сетей с глубокими графами. В 2021 году Международная совместная конференция по нейронным сетям (IJCNN) (стр. 1–8). IEEE.
Тан Дж., Гэн С., Фу З., Ге Ю., Сюй С., Ли Ю. и Чжан Ю., апрель 2022 г. Изучение и оценка объяснений нейронной сети графа, основанных на контрфактических и фактических рассуждениях. В материалах веб-конференции ACM 2022 (стр. 1018–1027).
Ма Дж., Го Р., Мишра С., Чжан А. и Ли Дж., 2022. Ясно: генеративные контрфактические объяснения на графиках. Достижения в области нейронных систем обработки информации, 35, стр. 25895-25907.
Немировский Д., Тибо Н., Сюй Ю. и Гупта А., август 2022 г. CounteRGAN: создание контрфактов для обращения в режиме реального времени и интерпретируемости с использованием остаточных GAN. В «Неопределенности искусственного интеллекта» (стр. 1488–1497). ПМЛР.

Расширять

Дополнительная информация