NeuralLog
1.0.0
Auf Deep Learning (DL) basierende Sprachmodelle erzielen bei verschiedenen Benchmarks für Natural Language Inference (NLI) eine hohe Leistung. Und derzeit erhalten symbolische Ansätze für NLI weniger Aufmerksamkeit. Beide Ansätze (symbolisch und DL) haben ihre Vor- und Schwächen. Allerdings gibt es derzeit keine Methode, sie in einem System zu kombinieren, um die Aufgabe des NLI zu lösen. Um symbolische und Deep-Learning-Methoden zusammenzuführen, schlagen wir ein Inferenz-Framework namens NeuralLog vor, das sowohl eine auf Monotonie basierende logische Inferenz-Engine als auch ein neuronales Netzwerk-Sprachmodell für die Phrasenausrichtung nutzt. Unser Framework modelliert die NLI-Aufgabe als klassisches Suchproblem und verwendet den Beam-Search-Algorithmus, um nach optimalen Inferenzpfaden zu suchen. Experimente zeigen, dass unser gemeinsames Logik- und neuronales Inferenzsystem die Genauigkeit der NLI-Aufgabe verbessert und eine hochmoderne Genauigkeit bei den SICK- und MED-Datensätzen erreichen kann.
Folgende Publikationen sind in dieses Framework integriert:
Die empfohlene Umgebung umfasst Python 3.6 oder höher, Stanza v1.2.0 oder höher und **ImageMagick v7.0.11. Der Code funktioniert nicht mit Python 2.7.
Klonen Sie das Repository
git clone https://github.com/eric11eca/NeuralLog.git
Laden Sie zunächst ein vorab trainiertes Modell von Google Drive herunter. Ersetzen Sie das Stanza defalut depparse-Modell durch diese vorab trainierte Version. Der Stanza-Modellpfad ist:
C:Users$your_user_name$stanza_resourcesen
Öffnen Sie dann UdeoLog.ipynb
Wir bieten zwei UD-Parser-Modelle für Englisch an. Einige Modelle sind Allzweckmodelle, während andere Einbettungen für bestimmte Anwendungsfälle erstellen. Vorab trainierte Modelle können geladen werden, indem einfach der Modellname übergeben wird: SentenceTransformer('model_name') .
Informationen zum Trainieren neuer UD-Parser-Modelle finden Sie in der Trainingsdokumentation von Stanza. Dort finden Sie eine Einführung zum Trainieren Ihres eigenen UD-Parsers.
Wenn Sie dieses Repository hilfreich finden, können Sie gerne unsere Veröffentlichung NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning zitieren:
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}Ansprechpartner: Zeming Chen, [email protected] Zögern Sie nicht, uns eine E-Mail zu senden oder ein Problem zu melden, wenn etwas kaputt ist oder Sie weitere Fragen haben.
Dieses Repository enthält experimentelle Software und wird ausschließlich zu dem Zweck veröffentlicht, zusätzliche Hintergrundinformationen zur jeweiligen Veröffentlichung bereitzustellen.
