Modelos de linguagem baseados em aprendizagem profunda (DL) alcançam alto desempenho em vários benchmarks para Inferência de Linguagem Natural (NLI). E neste momento, as abordagens simbólicas à NLI estão a receber menos atenção. Ambas as abordagens (simbólica e DL) têm suas vantagens e fraquezas. Porém, atualmente, nenhum método os combina em um sistema para resolver a tarefa do NLI. Para mesclar métodos de aprendizado simbólico e profundo, propomos uma estrutura de inferência chamada NeuralLog , que utiliza um mecanismo de inferência lógica baseado em monotonicidade e um modelo de linguagem de rede neural para alinhamento de frases. Nossa estrutura modela a tarefa NLI como um problema de busca clássico e usa o algoritmo de busca de feixe para buscar caminhos de inferência ideais. Experimentos mostram que nosso sistema conjunto de lógica e inferência neural melhora a precisão na tarefa NLI e pode alcançar precisão de última geração nos conjuntos de dados SICK e MED.
As seguintes publicações estão integradas neste quadro:
O ambiente recomendado inclui Python 3.6 ou superior, Stanza v1.2.0 ou superior e **ImageMagick v7.0.11. O código não funciona com Python 2.7.
Clonar o repositório
git clone https://github.com/eric11eca/NeuralLog.git
Primeiro baixe um modelo pré-treinado do Google Drive. Substitua o modelo Stanza defalut depparse por esta versão pré-treinada. O caminho do modelo Stanza é:
C:Users$your_user_name$stanza_resourcesen
Em seguida, abra UdeoLog.ipynb
Fornecemos dois modelos de analisador UD para inglês. Alguns modelos são modelos de uso geral, enquanto outros produzem incorporações para casos de uso específicos. Modelos pré-treinados podem ser carregados apenas passando o nome do modelo: SentenceTransformer('model_name')
.
Para treinar novos modelos de analisador UD, consulte a documentação de treinamento da Stanza para obter uma introdução sobre como treinar seu próprio analisador UD.
Se você achar este repositório útil, sinta-se à vontade para citar nossa publicação NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning:
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}
Pessoa de contato: Zeming Chen, [email protected] Não hesite em nos enviar um e-mail ou relatar um problema, se algo estiver quebrado ou se você tiver mais dúvidas.
Este repositório contém software experimental e é publicado com o único propósito de fornecer detalhes adicionais sobre a respectiva publicação.