ดาวน์โหลด LAUG - ดาวน์โหลดซอร์สโค้ด LAUG

LAUG

ซอร์สโค้ดอื่น ๆ

1.0.0

ดาวน์โหลด

หัวเราะ

LAUG เป็นชุดเครื่องมือโอเพ่นซอร์สสำหรับการทำความเข้าใจภาษา AUGmentation เป็นวิธีอัตโนมัติในการประมาณความรบกวนตามธรรมชาติของข้อมูลที่มีอยู่ ข้อมูลเสริมสามารถนำมาใช้เพื่อทดสอบความทนทานของกล่องดำหรือปรับปรุงการฝึกอบรมได้ [กระดาษ]

หัวเราะ
- การติดตั้ง
- วิธีการเสริม
- ชุดข้อมูลที่รองรับ
- แบบจำลอง NLU
- การอ้างอิง
- ใบอนุญาต

การติดตั้ง

ต้องการหลาม 3.6

โคลนที่เก็บนี้:

git clone https://github.com/thu-coai/LAUG.git

ติดตั้งผ่าน pip:

 cd LAUG
pip install -e .

ดาวน์โหลดข้อมูลและโมเดล:

ข้อมูลที่ใช้ในพารามิเตอร์กระดาษและแบบจำลองที่เราฝึกอบรมล่วงหน้ามีอยู่ที่ลิงก์ กรุณาดาวน์โหลดและวางลงใน dir ที่เกี่ยวข้อง สำหรับพารามิเตอร์โมเดลที่เผยแพร่โดยผู้อื่น โปรดดูที่ README.md ภายใต้ dirs ของวิธีการเสริมแต่ละวิธี เช่น LAUG/aug/Speech_Recognition/README.md

วิธีการเสริม

ต่อไปนี้เป็นวิธีการเสริม 4 วิธีที่อธิบายไว้ในรายงานของเรา อยู่ภายใต้ LAUG/aug dir

Word Perturbation (WP) ที่ Word_Perturbation/ dir
การถอดความข้อความ (TP) ที่ Text_Paraphrasing/ dir
การรู้จำเสียง (SR) ที่ Speech_Recognition/ dir
ความผิดปกติของคำพูด (SD) ที่ Speech_Disfluency/ dir

โปรดดูเอกสารของเราและ README.md ในแต่ละวิธีการเสริมสำหรับข้อมูลโดยละเอียด

ดู demo.py สำหรับการใช้วิธีการเสริมเหล่านี้

python demo.py

โปรดทราบว่าวิธีการเสริมของเรามีโมเดลประสาทหลายแบบ จึงจำเป็นต้องดาวน์โหลดพารามิเตอร์ที่ได้รับการฝึกล่วงหน้าก่อนใช้งาน พารามิเตอร์ที่เราฝึกอบรมล่วงหน้ามีอยู่ที่ลิงก์ สำหรับพารามิเตอร์ที่ผู้อื่นเผยแพร่ โปรดปฏิบัติตามคำแนะนำของแต่ละวิธี

ชุดข้อมูลที่รองรับ

ข้อมูลที่ใช้ในรายงานของเรามีอยู่ที่ ลิงค์ โปรดดาวน์โหลดและวางไว้ data/ dir

ข้อมูลของเราประกอบด้วยชุดข้อมูล 2 ชุด: MultiWOZ และ Frames พร้อมด้วยสำเนาเสริม

มัลติ WOZ
- ข้อมูลต้นฉบับ
  - เราใช้ MultiWOZ 2.3 เป็นข้อมูลต้นฉบับ เราวางไว้ที่ data/multiwoz/ dir
  - ขนาดรถไฟ/วาล/ทดสอบ: กล่องโต้ตอบ 8434/999/1000
  - ใบอนุญาต:
- ข้อมูลเสริม
  - เรามีชุดทดสอบเสริม 4 ชุด:
    - WP (Word Perturbation) ขนาด: 1,000 วางไว้ที่ data/multiwoz/WP
    - TP (การถอดความข้อความ) ขนาด: 1,000 วางไว้ที่ data/multiwoz/TP
    - SR (การรบกวนคำพูด) ขนาด: 1000 วางไว้ที่ data/multiwoz/SR
    - SD (Speech Disfluency) ขนาด: 1000 วางไว้ที่ data/multiwoz/SD
  - เรามีชุดฝึกเสริม 1 ชุด:
    - ขนาด : 16868 บรรจุ : 50%Original+(12.5%WP+12.5%TP+12.5%SR+12.5%SD) วางไว้ที่ data/multiwoz/Enhanced
- ข้อมูลการประเมินผู้ใช้จริง :
  - เรารวบรวมคำพูด 240 คำจากผู้ใช้จริงเพื่อการประเมินผู้ใช้จริงของเรา
  - เราวางไว้ที่ data/multiwoz/Real dir
  - โปรดดูเอกสารของเราสำหรับข้อมูลโดยละเอียดเกี่ยวกับสถิติและการรวบรวมข้อมูลจริง
เฟรม
- ข้อมูลต้นฉบับ
  - เราประมวลผล Frames ให้อยู่ในรูปแบบเดียวกับ MultiWOZ และวางไว้ที่ data/Frames/ dir
  - ขนาดรถไฟ/วาล์ว/ทดสอบ: กล่องโต้ตอบ 1095/137/137
  - ใบอนุญาต:
- ข้อมูลเสริม
  - เรามีชุดทดสอบเสริม 4 ชุด:
    - WP (Word Perturbation) ขนาด: 137 วางไว้ที่ data/Frames/WP
    - TP (การถอดความข้อความ) ขนาด: 137 วางไว้ที่ data/Frames/TP
    - SR (การรบกวนคำพูด) ขนาด: 137 วางไว้ที่ data/Frames/SR
    - SD (Speech Disfluency) ขนาด: 137 วางไว้ที่ data/Frames/SD
  - เรามีชุดฝึกเสริม 1 ชุด:
    - ขนาด : 2190 , บรรจุ : 50%Original+(12.5%WP+12.5%TP+12.5%SR+12.5%SD) , วางไว้ที่ data/Frames/Enhanced .

แบบจำลอง NLU

เรามีโมเดล NLU พื้นฐานสี่แบบตามที่อธิบายไว้ในรายงานของเรา:

มิลู
เบิร์ต
คัดลอกเน็ต
GPT-2

โมเดลเหล่านี้ดัดแปลงมาจาก ConvLab-2 สำหรับรายละเอียดเพิ่มเติม คุณสามารถอ้างถึง README.md ภายใต้ LUAG/nlu/$model/$dataset dir เช่น LAUG/nlu/gpt/multiwoz/README.md

การอ้างอิง

หากคุณใช้ LAUG ในการวิจัยของคุณ โปรดอ้างอิง:

 @inproceedings{liu2021robustness,
    title={Robustness Testing of Language Understanding in Task-Oriented Dialog},
    author={Liu, Jiexi and Takanobu, Ryuichi and Wen, Jiaxin and Wan, Dazhen and Li, Hongguang and Nie, Weiran and Li, Cheng and Peng, Wei and Huang, Minlie},
    year={2021},
    booktitle={Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics},
}