딥 러닝(DL) 기반 언어 모델은 자연어 추론(NLI)에 대한 다양한 벤치마크에서 높은 성능을 달성합니다. 그리고 현재 NLI에 대한 상징적 접근 방식은 덜 주목받고 있습니다. 두 접근 방식(기호 및 DL) 모두 장점과 단점이 있습니다. 그러나 현재 NLI의 과제를 해결하기 위해 이들을 시스템에 결합하는 방법은 없습니다. 기호 학습 방법과 딥 러닝 방법을 병합하기 위해 단조성 기반 논리 추론 엔진과 구문 정렬을 위한 신경망 언어 모델을 모두 활용하는 NeuralLog 라는 추론 프레임워크를 제안합니다. 우리 프레임워크는 NLI 작업을 고전적인 검색 문제로 모델링하고 빔 검색 알고리즘을 사용하여 최적의 추론 경로를 검색합니다. 실험에 따르면 우리의 공동 논리 및 신경 추론 시스템은 NLI 작업의 정확도를 향상시키고 SICK 및 MED 데이터 세트에서 최고 수준의 정확도를 달성할 수 있습니다.
다음 출판물이 이 프레임워크에 통합되어 있습니다.
권장 환경에는 Python 3.6 이상, Stanza v1.2.0 이상, **ImageMagick v7.0.11이 포함됩니다. 이 코드는 Python 2.7에서 작동하지 않습니다 .
저장소 복제
git clone https://github.com/eric11eca/NeuralLog.git
먼저 Google Drive에서 사전 학습된 모델을 다운로드하세요. Stanza defalut depparse 모델을 이 사전 학습된 버전으로 바꾸세요. 스탠자 모델 경로는 다음과 같습니다.
C:Users$your_user_name$stanza_resourcesen
그런 다음 UdeoLog.ipynb를 엽니다.
우리는 영어용으로 두 가지 UD Parser 모델을 제공합니다. 일부 모델은 범용 모델인 반면 다른 모델은 특정 사용 사례에 대한 임베딩을 생성합니다. 사전 학습된 모델은 모델 이름 SentenceTransformer('model_name')
전달하여 로드할 수 있습니다.
새로운 UD 파서 모델을 교육하려면 Stanza의 교육 문서에서 자체 UD 파서를 교육하는 방법에 대한 소개를 참조하세요.
이 저장소가 도움이 된다면 NeuralLog : 공동 신경 및 논리적 추론을 통한 자연어 추론 간행물을 자유롭게 인용하십시오.
@misc { chen2021 NeuralLog ,
title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } ,
author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
year = { 2021 } ,
eprint = { 2105.14167 } ,
archivePrefix = { arXiv } ,
primaryClass = { cs.CL }
}
담당자: Zeming Chen, [email protected] 문제가 있거나 추가 질문이 있는 경우 주저하지 말고 이메일을 보내거나 문제를 보고해 주세요.
이 저장소에는 실험적 소프트웨어가 포함되어 있으며 해당 출판물에 대한 추가 배경 정보를 제공할 목적으로만 출판되었습니다.