automated explanations

自动解释

连接语言神经科学中数据驱动模型和科学理论的生成框架 (arXiv 2024)

用语言模型解释自然语言的黑盒文本模块 (arXiv 2023)

该存储库包含重现 GEM-V 论文和 SASC 论文中实验的代码。 SASC 接受一个文本模块并为其生成一个自然的解释，描述什么类型的输入会引起模块的最大响应（参见下图）。 GEM-V 测试在功能磁共振成像环境中对此进行了详细测试。

SASC 与 OpenAI 的并发论文类似，但简化了描述功能的解释，而不是产生令牌级激活。这使得它更简单/更快，并且更有效地从有限的数据（例如功能磁共振成像体素）描述语义功能，但在寻找依赖于序列/排序的模式方面更差。

对于使用 SASC 的简单 scikit-learn 界面，请使用 imodelsX 库。使用pip install imodelsx安装，然后下面显示了快速入门示例。

 from imodelsx import recognize_module_sasc# 一个响应字符串长度的玩具模块 mod = lambda str_list: np.array([len(s) for s in str_list])# 一个玩具数据集，其中最长的字符串是animalstext_str_list = ["red" 、“蓝色”、“x”、“1”、“2”、“河马”、“大象”、“犀牛”]explanation_dict =explain_module_sasc(text_str_list,mod,ngrams=1,
）

参考

• 查看相关的功能磁共振成像实验

• 从此模板构建

@misc{antonello2024generativeframeworkbridgedatadriven, title={连接语言神经科学中数据驱动模型和科学理论的生成框架}，
       作者={理查德·安东内洛、钱丹·辛格、谢莉·杰恩、阿利亚·许、高剑锋、余斌和亚历山大·胡斯}，年份={2024}，eprint={2410.00812}，archivePrefix={arXiv}，primaryClass={cs.CL} ，url = {https://arxiv.org/abs/2410.00812}，
 }@misc{singh2023explaining, title={用语言模型用自然语言解释黑盒文本模块},
       作者={Chandan Singh 和 Aliyah R. Hsu 和 Richard Antonello 和 Shailee Jain 和 Alexander G. Huth 和 Bin Yu 和高剑峰}，年份={2023}，eprint={2305.09863}，archivePrefix={arXiv}，primaryClass={人工智能}
}