automated explanations

自動解釋

連結語言神經科學中資料驅動模型與科學理論的生成架構 (arXiv 2024)

用語言模型解釋自然語言的黑盒文本模組 (arXiv 2023)

此儲存庫包含重現 GEM-V 論文和 SASC 論文中實驗的程式碼。 SASC 接受一個文字模組並為其產生一個自然的解釋，描述什麼類型的輸入會引起模組的最大回應（見下圖）。 GEM-V 測試在功能性磁振造影環境中對此進行了詳細測試。

SASC 與 OpenAI 的並發論文類似，但簡化了描述功能的解釋，而不是產生令牌級活化。這使得它更簡單/更快，並且更有效地從有限的數據（例如功能性磁振造影體素）描述語義功能，但在尋找依賴序列/排序的模式方面更差。

對於使用 SASC 的簡單 scikit-learn 介面，請使用 imodelsX 函式庫。使用pip install imodelsx安裝，然後下面顯示了快速入門範例。

 from imodelsx import recognize_module_sasc# 一個回應字串長度的玩具模組mod = lambda str_list: np.array([len(s) for s in str_list])# 一個玩具資料集，其中最長的字串是animalstext_str_list = [" red" 、「藍色」、「x」、「1」、「2」、「河馬」、「大象」、「犀牛」]explanation_dict =explain_module_sasc(text_str_list,mod,ngrams=1,
）

參考

• 查看相關的功能性磁振造影實驗

• 從此模板構建

@misc{antonello2024generativeframeworkbridgedatadriven, title={連接語言神經科學中資料驅動模型和科學理論的生成框架}，
       作者={理查德·安東內洛、錢丹·辛格、謝莉·傑恩、阿利亞·許、高劍峰、於斌和亞歷山大·胡斯}，年份={2024}，eprint={2410.00812 }，archivePrefix={arXiv}，primaryClass={cs.CL} ，url = {https://arxiv.org/abs/2410.00812}，
 }@misc{singh2023explaining, title={用語言模型用自然語言解釋黑盒文字模組},
       作者={Chandan Singh 和 Aliyah R. Hsu 和 Richard Antonello 和 Shailee Jain 和 Alexander G. Huth 和 Bin Yu 和高劍峰}，年份={2023}，eprint={2305.09863}，archivePrefix={arXiv}，primaryClass={人工智能}
}