NeuralLog

NeuralLog : Inferensi Bahasa Alami dengan Penalaran Neural dan Logis Gabungan

Model bahasa berbasis deep learning (DL) mencapai performa tinggi pada berbagai tolok ukur untuk Natural Language Inference (NLI). Dan saat ini, pendekatan simbolis terhadap NLI kurang mendapat perhatian. Kedua pendekatan (simbolis dan DL) memiliki kelebihan dan kelemahan masing-masing. Namun, saat ini, tidak ada metode yang menggabungkannya dalam suatu sistem untuk menyelesaikan tugas NLI. Untuk menggabungkan metode pembelajaran simbolis dan mendalam, kami mengusulkan kerangka inferensi yang disebut NeuralLog , yang menggunakan mesin inferensi logis berbasis monotonisitas dan model bahasa jaringan saraf untuk penyelarasan frasa. Kerangka kerja kami memodelkan tugas NLI sebagai masalah pencarian klasik dan menggunakan algoritma pencarian sinar untuk mencari jalur inferensi optimal. Eksperimen menunjukkan bahwa logika gabungan dan sistem inferensi saraf kami meningkatkan akurasi pada tugas NLI dan dapat mencapai akurasi canggih pada kumpulan data SICK dan MED.

Publikasi berikut diintegrasikan dalam kerangka ini:

• NeuralLog : Inferensi Bahasa Alami dengan Penalaran Neural dan Logis Gabungan (*SEM2021 @ ACL2021)
• Penandaan Monotonisitas dari Pohon Ketergantungan Universal (IWCS 2021)

Instalasi

Lingkungan yang direkomendasikan mencakup Python 3.6 atau lebih tinggi, Stanza v1.2.0 atau lebih tinggi, dan **ImageMagick v7.0.11. Kode ini tidak berfungsi dengan Python 2.7.

Kloning repositori

 git clone https://github.com/eric11eca/NeuralLog.git

Memulai

Pertama unduh model terlatih dari Google Drive. Ganti model Stanza defalut depparse dengan versi terlatih ini. Jalur model Stanza adalah:

 C:Users$your_user_name$stanza_resourcesen

Kemudian buka UdeoLog.ipynb

Model Parser UD yang telah dilatih sebelumnya

Kami menyediakan dua Model UD Parser untuk Bahasa Inggris. Beberapa model merupakan model tujuan umum, sementara model lainnya menghasilkan penyematan untuk kasus penggunaan tertentu. Model terlatih dapat dimuat hanya dengan meneruskan nama model: SentenceTransformer('model_name') .

Pelatihan

Untuk melatih model parser UD baru, lihat dokumentasi pelatihan Stanza untuk pengenalan cara melatih parser UD Anda sendiri.

Mengutip & Penulis

Jika Anda merasa repositori ini bermanfaat, silakan mengutip publikasi kami NeuralLog : Inferensi Bahasa Alami dengan Penalaran Neural dan Logis Gabungan :

NeuralLog, title={ NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning}, author={Zeming Chen and Qiyue Gao and Lawrence S. Moss}, year={2021}, eprint={2105.14167}, archivePrefix={arXiv}, primaryClass={cs.CL} }">

 @misc { chen2021 NeuralLog ,
      title = { NeuralLog : Natural Language Inference with Joint Neural and Logical Reasoning } , 
      author = { Zeming Chen and Qiyue Gao and Lawrence S. Moss } ,
      year = { 2021 } ,
      eprint = { 2105.14167 } ,
      archivePrefix = { arXiv } ,
      primaryClass = { cs.CL }
}

Kontak person: Zeming Chen, [email protected] Jangan ragu untuk mengirim email kepada kami atau melaporkan masalah, jika ada yang rusak atau jika Anda memiliki pertanyaan lebih lanjut.

Repositori ini berisi perangkat lunak eksperimental dan diterbitkan dengan tujuan memberikan rincian latar belakang tambahan pada publikasi terkait.