automated explanations

자동 설명

언어 신경과학의 데이터 기반 모델과 과학 이론을 연결하는 생성 프레임워크(arXiv 2024)

언어 모델을 사용하여 자연어로 블랙박스 텍스트 모듈 설명(arXiv 2023)

이 저장소에는 GEM-V 논문과 SASC 논문의 실험을 재현하는 코드가 포함되어 있습니다. SASC는 텍스트 모듈을 가져와 모듈에서 가장 큰 응답을 이끌어내는 입력 유형을 설명하는 자연스러운 설명을 생성합니다(아래 그림 참조). GEM-V 테스트는 fMRI 설정에서 이를 자세히 테스트합니다.

SASC는 OpenAI의 훌륭한 동시 논문과 유사하지만 토큰 수준 활성화를 생성하는 대신 기능을 설명하기 위해 설명을 단순화합니다. 이는 더 간단하고 빠르게 만들고 제한된 데이터(예: fMRI 복셀)의 의미 기능을 설명하는 데 더 효과적이지만 시퀀스/순서에 의존하는 패턴을 찾는 데는 더 나쁩니다.

SASC를 사용하기 위한 간단한 scikit-learn 인터페이스의 경우 imodelsX 라이브러리를 사용하세요. pip install imodelsx 사용하여 설치하면 아래에 빠른 시작 예가 나와 있습니다.

 from imodelsx import explain_module_sasc# 문자열 길이에 반응하는 장난감 모듈mod = 람다 str_list: np.array([len(s) for s in str_list])# 가장 긴 문자열이 동물인 장난감 데이터세트text_str_list = ["red" , "블루", "x", "1", "2", "하마", "코끼리", "코뿔소"]explanation_dict = explain_module_sasc(text_str_list,mod,ngrams=1,
)

참조

• 관련 fMRI 실험 보기

• 이 템플릿으로 제작됨

 @misc{antonello2024generativeframeworkbridgedatadriven, title={언어 신경과학에서 데이터 기반 모델과 과학 이론을 연결하는 생성 프레임워크},
       작성자={Richard Antonello 및 Chandan Singh 및 Shailee Jain 및 Aliyah Hsu 및 Jianfeng Gao 및 Bin Yu 및 Alexander Huth}, 연도={2024}, eprint={2410.00812}, archivePrefix={arXiv}, PrimaryClass={cs.CL} , URL={https://arxiv.org/abs/2410.00812},
 }@misc{singh2023explaining, title={언어 모델을 사용하여 자연어로 된 블랙박스 텍스트 모듈 설명},
       저자={Chandan Singh 및 Aliyah R. Hsu 및 Richard Antonello 및 Shailee Jain 및 Alexander G. Huth 및 Bin Yu 및 Jianfeng Gao}, 연도={2023}, eprint={2305.09863}, archivePrefix={arXiv}, PrimaryClass={ cs.AI}
}