Языковые модели на основе глубокого обучения (DL) достигают высокой производительности по различным критериям вывода естественного языка (NLI). И в настоящее время символическим подходам к НЛИ уделяется все меньше внимания. Оба подхода (символический и DL) имеют свои преимущества и недостатки. Однако в настоящее время не существует метода, объединяющего их в систему для решения задачи НЛИ. Чтобы объединить методы символического и глубокого обучения, мы предлагаем структуру вывода под названием NeuralLog , которая использует как механизм логического вывода, основанный на монотонности, так и языковую модель нейронной сети для выравнивания фраз. Наша структура моделирует задачу NLI как классическую задачу поиска и использует алгоритм поиска луча для поиска оптимальных путей вывода. Эксперименты показывают, что наша совместная система логики и нейронного вывода повышает точность задачи NLI и может достичь современной точности в наборах данных SICK и MED.
В эту структуру включены следующие публикации:
Рекомендуемая среда включает Python 3.6 или более позднюю версию, Stanza v1.2.0 или более позднюю версию и **ImageMagick v7.0.11. Код не работает с Python 2.7.
Клонировать репозиторий
git clone https://github.com/eric11eca/NeuralLog.git
Сначала загрузите предварительно обученную модель с Google Диска. Замените модель Stanza defalut depparse этой предварительно обученной версией. Путь модели Stanza:
C:Users$your_user_name$stanza_resourcesen
Затем откройте UdeoLog.ipynb.
Мы предоставляем две модели UD Parser для английского языка. Некоторые модели являются моделями общего назначения, тогда как другие создают внедрения для конкретных случаев использования. Предварительно обученные модели можно загрузить, просто передав имя модели: SentenceTransformer('model_name')
.
Для обучения новым моделям анализатора UD см. документацию по обучению Stanza, где описано, как обучать собственный анализатор UD.
Если этот репозиторий окажется для вас полезным, не стесняйтесь цитировать нашу публикацию NeuralLog : Вывод на естественном языке с совместным нейронным и логическим рассуждением:
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}
Контактное лицо: Земин Чен, [email protected] Не стесняйтесь присылать нам электронное письмо или сообщать о проблеме, если что-то сломалось или у вас есть дополнительные вопросы.
Этот репозиторий содержит экспериментальное программное обеспечение и публикуется с единственной целью предоставить дополнительную информацию о соответствующей публикации.