基於深度學習 (DL) 的語言模型在自然語言推理 (NLI) 的各種基準上實現了高效能。目前,NLI 的象徵性方法受到較少的關注。兩種方法(符號方法和深度學習)都有其優點和缺點。然而,目前還沒有方法將它們結合在一個系統中來解決 NLI 的任務。為了融合符號學習和深度學習方法,我們提出了一個名為NeuralLog的推理框架,它利用基於單調性的邏輯推理引擎和用於短語對齊的神經網路語言模型。我們的框架將 NLI 任務建模為經典搜尋問題,並使用波束搜尋演算法來搜尋最佳推理路徑。實驗表明,我們的聯合邏輯和神經推理系統提高了 NLI 任務的準確性,並且可以在 SICK 和 MED 數據集上實現最先進的準確性。
以下出版物已納入該框架:
推薦環境包括Python 3.6或更高版本、 Stanza v1.2.0或更高版本、**ImageMagick v7.0.11。該程式碼不適用於 Python 2.7。
克隆儲存庫
git clone https://github.com/eric11eca/NeuralLog.git
首先從 Google Drive 下載預訓練模型。將 Stanza 預設 depparse 模型替換為此預訓練版本。 Stanza 模型路徑為:
C:Users$your_user_name$stanza_resourcesen
然後打開 UdeoLog.ipynb
我們提供兩種英文 UD 解析器模型。有些模型是通用模型,而其他模型則為特定用例產生嵌入。只需傳遞模型名稱即可載入預訓練模型: SentenceTransformer('model_name')
。
要訓練新的 UD 解析器模型,請參閱 Stanza 的訓練文檔,了解如何訓練您自己的 UD 解析器。
如果您發現此儲存庫有幫助,請隨時引用我們的出版物NeuralLog :聯合神經和邏輯推理的自然語言推理:
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}
聯絡人:Zeming Chen, [email protected] 如果出現問題或有其他問題,請隨時向我們發送電子郵件或報告問題。
該儲存庫包含實驗軟體,其發布的唯一目的是提供有關相應出版物的更多背景詳細資訊。