基于深度学习 (DL) 的语言模型在自然语言推理 (NLI) 的各种基准上实现了高性能。目前,NLI 的象征性方法受到的关注较少。两种方法(符号方法和深度学习)都有其优点和缺点。然而,目前还没有方法将它们结合在一个系统中来解决 NLI 的任务。为了融合符号学习和深度学习方法,我们提出了一种名为NeuralLog的推理框架,它利用基于单调性的逻辑推理引擎和用于短语对齐的神经网络语言模型。我们的框架将 NLI 任务建模为经典搜索问题,并使用波束搜索算法来搜索最佳推理路径。实验表明,我们的联合逻辑和神经推理系统提高了 NLI 任务的准确性,并且可以在 SICK 和 MED 数据集上实现最先进的准确性。
以下出版物已纳入该框架:
推荐环境包括Python 3.6或更高版本、 Stanza v1.2.0或更高版本、**ImageMagick v7.0.11。该代码不适用于 Python 2.7。
克隆存储库
git clone https://github.com/eric11eca/NeuralLog.git
首先从 Google Drive 下载预训练模型。将 Stanza 默认 depparse 模型替换为此预训练版本。 Stanza 模型路径为:
C:Users$your_user_name$stanza_resourcesen
然后打开 UdeoLog.ipynb
我们提供两种英语 UD 解析器模型。有些模型是通用模型,而其他模型则为特定用例生成嵌入。只需传递模型名称即可加载预训练模型: SentenceTransformer('model_name')
。
要训练新的 UD 解析器模型,请参阅 Stanza 的训练文档,了解如何训练您自己的 UD 解析器。
如果您发现此存储库有帮助,请随时引用我们的出版物NeuralLog :联合神经和逻辑推理的自然语言推理:
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}
联系人:Zeming Chen, [email protected] 如果出现问题或有其他问题,请随时向我们发送电子邮件或报告问题。
该存储库包含实验软件,其发布的唯一目的是提供有关相应出版物的更多背景详细信息。