การเรียนรู้อย่างลึกซึ้งสำหรับนักพัฒนา Chatbot
- เนื้อหาหลักสูตรการเรียนรู้เชิงลึกสำหรับนักพัฒนา Chatbot (กันยายน 2017)
- ผู้เขียน: แจมิน โช
- ยินดีต้อนรับดึงคำขอ :)
สารบัญ
วันที่ 01 รู้เบื้องต้นเกี่ยวกับ Chatbot (สไลด์แชร์)
- ความรู้เบื้องต้นเกี่ยวกับ NLP/แชทบอท
- ภาพรวมของชุดเครื่องมือ/ชุดข้อมูล NLP ภาษาเกาหลี/อังกฤษ
- บทช่วยสอน (รหัส)
- ข้อมูลเบื้องต้นเกี่ยวกับ spaCy / gensim / konlpy / ชุดเครื่องมือภาษาเกาหลีอื่นๆ
- การจำแนกความรู้สึกผ่าน TF-IDF (scikit-learn)
- Chatbot Pipelining / เสิร์ฟผ่าน Kakaotalk (ขวด) / Slack (คนขี้เกียจ)
วันที่ 02 การจัดหมวดหมู่ข้อความด้วย CNN/RNN (สไลด์แชร์)
- CNN สำหรับการจำแนกข้อความ
- Word CNN / Dynamic CNN / Char CNN / Very Deep CNN
- RNN สำหรับการจำแนกข้อความ
- RNN แบบสองทิศทาง / NN แบบเรียกซ้ำ / Tree LSTM / ตัวเข้ารหัสคู่ LSTM
- สถาปัตยกรรม CNN/RNN ขั้นสูง
- QRNN / SRU / ByteNet / SliceNet / LSTM-CNNs-CRF
- บทช่วยสอน (รหัส)
- Word-CNN สำหรับการวิเคราะห์ความเชื่อมั่น
- คู่มือสไตล์ PyTorch
- บทช่วยสอนข้อความคบเพลิง
วันที่ 03 การสร้างแบบจำลองการสนทนาด้วย Seq2Seq / Attention (สไลด์แชร์)
- โมเดล Seq2Seq สำหรับการสร้างแบบจำลองการสนทนา
- Seq2Seq / โมเดลการสนทนาทางประสาท / วัตถุประสงค์ที่กระตุ้นความหลากหลาย: MMI
- สถาปัตยกรรม Seq2Seq ขั้นสูง
- แสดงและบอก / HRED / VHRED / โมเดลการสนทนาทางประสาทส่วนบุคคล / เวกเตอร์คำตามบริบท (CoVe)
- กลไกความสนใจ
- บาห์ดาเนา/ลือง
- ทั่วโลก / ท้องถิ่น
- สถาปัตยกรรมความสนใจขั้นสูง
- แสดง เข้าร่วม และบอกเล่า / Pointer Networks / CopyNet / BiDAF / Transformer
- บทช่วยสอน (รหัส)
- Seq2Seq พร้อมความสนใจในการแปลด้วยเครื่อง
วันที่ 04 QA พร้อมหน่วยความจำภายนอก (สไลด์แชร์)
- QA พร้อมหน่วยความจำภายนอก
- เครือข่ายหน่วยความจำ / เครือข่ายหน่วยความจำแบบ End-to-End / เครือข่ายหน่วยความจำคีย์-ค่า / เครื่องทัวริงประสาท
- สถาปัตยกรรมหน่วยความจำขั้นสูง
- DNC / โมดูลหน่วยความจำตลอดชีวิต / เครือข่ายหน่วยความจำลำดับบริบท
- สถาปัตยกรรมการสนทนาขั้นสูง
- MILABOT / การเรียนรู้ภาษาตามกล่องโต้ตอบ / บทสนทนาเชิงเป้าหมายแบบ End-to-End / RL เชิงลึก / ฝ่ายตรงข้าม
- บทช่วยสอน (รหัส)
- เครือข่ายหน่วยความจำแบบครบวงจรสำหรับการตอบคำถาม (bAbI)
การพึ่งพาอาศัยกัน
หลาม 3
- รหัสเขียนด้วย Anacodna Python 3.6
- แนะนำให้ใช้การจัดการแพ็คเกจผ่าน Conda หรือ virtualenv
ML/NLP
- ไพทอร์ช
- คบเพลิงข้อความ
- สปาซี
- sckit-เรียนรู้
- เกนซิม
- konlpy (ต้องใช้ Jpype3)
โต้ตอบ / DataFrame / พล็อต
- จูปีเตอร์
- หมีแพนด้า
- matplotlib
Kakaotalk / Slack Bot
- กระติกน้ำ
- websocket-ไคลเอนต์
- ซุปสวย4
- คนเกียจคร้าน
