NeuralLog

NeuralLog : inferencia del lenguaje natural con razonamiento lógico y neuronal conjunto

Los modelos de lenguaje basados ​​en aprendizaje profundo (DL) logran un alto rendimiento en varios puntos de referencia para la inferencia del lenguaje natural (NLI). Y en este momento, los enfoques simbólicos de la NLI están recibiendo menos atención. Ambos enfoques (simbólico y DL) tienen sus ventajas y debilidades. Sin embargo, actualmente, ningún método los combina en un sistema para resolver la tarea de NLI. Para fusionar métodos de aprendizaje profundo y simbólico, proponemos un marco de inferencia llamado NeuralLog , que utiliza un motor de inferencia lógica basado en monotonicidad y un modelo de lenguaje de red neuronal para la alineación de frases. Nuestro marco modela la tarea NLI como un problema de búsqueda clásico y utiliza el algoritmo de búsqueda de haces para buscar rutas de inferencia óptimas. Los experimentos muestran que nuestro sistema conjunto de lógica e inferencia neuronal mejora la precisión en la tarea NLI y puede lograr una precisión de vanguardia en los conjuntos de datos SICK y MED.

En este marco se integran las siguientes publicaciones:

• NeuralLog : Inferencia del lenguaje natural con razonamiento lógico y neuronal conjunto (*SEM2021 @ ACL2021)
• Marcado de monotonicidad a partir de árboles de dependencia universales (IWCS 2021)

Instalación

El entorno recomendado incluye Python 3.6 o superior, Stanza v1.2.0 o superior y **ImageMagick v7.0.11. El código no funciona con Python 2.7.

Clonar el repositorio

 git clone https://github.com/eric11eca/NeuralLog.git

Empezando

Primero descargue un modelo previamente entrenado desde Google Drive. Reemplace el modelo Stanza defalut depparse con esta versión previamente entrenada. La ruta del modelo Stanza es:

 C:Users$your_user_name$stanza_resourcesen

Luego abre UdeoLog.ipynb

Modelos de analizador UD previamente entrenados

Proporcionamos dos modelos de UD Parser para inglés. Algunos modelos son modelos de propósito general, mientras que otros producen incorporaciones para casos de uso específicos. Los modelos previamente entrenados se pueden cargar simplemente pasando el nombre del modelo: SentenceTransformer('model_name') .

Capacitación

Para entrenar nuevos modelos de analizador UD, consulte la documentación de entrenamiento de Stanza para obtener una introducción sobre cómo entrenar su propio analizador UD.

Citas y autores

Si este repositorio le resulta útil, no dude en citar nuestra publicación NeuralLog : Inferencia del lenguaje natural con razonamiento neuronal y lógico conjunto:

NeuralLog, title={ NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning}, author={Zeming Chen and Qiyue Gao and Lawrence S. Moss}, year={2021}, eprint={2105.14167}, archivePrefix={arXiv}, primaryClass={cs.CL} }">

 @misc { chen2021 NeuralLog ,
      title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } , 
      author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
      year = { 2021 } ,
      eprint = { 2105.14167 } ,
      archivePrefix = { arXiv } ,
      primaryClass = { cs.CL }
}

Persona de contacto: Zeming Chen, [email protected] No dude en enviarnos un correo electrónico o informarnos de un problema, si algo no funciona o si tiene más preguntas.

Este repositorio contiene software experimental y se publica con el único propósito de brindar detalles adicionales sobre la publicación respectiva.