Adversarial Learning for Generative Conversational Agents

التعلم العدائي لوكلاء المحادثة التوليدية

يحتوي هذا المستودع على طريقة تدريب عدائية جديدة لوكيل المحادثة التوليدي (GCA) الخاص بنا.

يمكن العثور على مزيد من التفاصيل حول طريقة التدريب الجديدة هذه في ورقة Oswaldo Ludwig، "End-to-end Adversarial Learning for Geneative Conversational Agents"، arXiv:1711.10122 cs.CL، نوفمبر 2017. في حالة النشر باستخدام أفكار أو أجزاء من الكود من هذا المستودع، يرجى التكرم بالاستشهاد بهذه الورقة.

تفترض طريقتنا أن GCA كمولد يهدف إلى خداع المُميِّز الذي يصنف الحوارات على أنها من صنع الإنسان أو من صنع الآلة. في نهجنا، يقوم أداة التمييز بالتصنيف على مستوى الرمز المميز، أي أنه يشير إلى ما إذا كان الرمز المميز الحالي قد تم إنشاؤه بواسطة البشر أو الآلات. وللقيام بذلك، يتلقى المُميِّز أيضًا أقوال السياق (تاريخ الحوار) والإجابة غير الكاملة حتى الرمز المميز الحالي كمدخلات. هذا النهج الجديد يجعل من الممكن التدريب الشامل عن طريق الانتشار العكسي. تمكن عملية المحادثة الذاتية من إنتاج مجموعة من البيانات التي تم إنشاؤها بمزيد من التنوع للتدريب الخصومي. يعمل هذا الأسلوب على تحسين الأداء في الأسئلة غير المرتبطة ببيانات التدريب.

استخدم النموذج المدرب المتاح هنا مجموعة بيانات تم جمعها من حوارات دورات اللغة الإنجليزية عبر الإنترنت، والمتوفرة هنا.

يمكن شرح نموذج GCA الخاص بنا من خلال المخطط الانسيابي التالي:

بينما يشرح الكود الكاذب التالي خوارزمية GCA الخاصة بنا:

يمكن تفسير تدريبنا الجديد على الخصومة من طرف إلى طرف من خلال نموذج Keras التالي (الذي تم تنفيذه في الملف Train_bot_GAN.py)، والذي يتكون من المولد والمميز. تنتمي الكتل الصفراء إلى GCA (المولد)، بينما تنتمي الكتل الخضراء إلى جهاز التمييز. تتم مشاركة الكتل البيضاء بين المولد والمميز:

بينما يشرح الكود الكاذب التالي الخوارزمية الجديدة (انظر الورقة لتعريف المتغيرات):

للدردشة مع النماذج المدربة مسبقًا:

1. قم بتنزيل ملف python "conversation_GAN.py"، وملف المفردات "vocabulary_movie"، والأوزان الصافية "my_model_weights20.h5" (التي تم تدريبها بواسطة المعلم القسري) و"my_model_weights.h5" (التي تم تدريبها بواسطة طريقة الخصومة الجديدة)، والتي يمكن وجدت هنا؛
2. قم بتشغيل المحادثة_GAN.py.

لتقييم خطوط الحوار باستخدام أداة التمييز المدربة مسبقًا:

1. قم بتنزيل ملف python "run_discriminator_GAN.py"، وملف المفردات "vocabulary_movie"، والأوزان الصافية للمميز "my_model_weights_discriminator.h5"، والتي يمكن العثور عليها هنا؛
2. قم بتشغيل run_discriminator_GAN.py.

للتدريب الشامل باستخدام أسلوب الخصومة الجديد:

1. قم بتنزيل جميع الملفات هنا؛
2. قم بتنزيل مجلد Glove "glove.6B" وقم بتضمين هذا المجلد في دليل chatbot (يمكنك العثور على هذا المجلد هنا). تطبق هذه الخوارزمية تعلم النقل باستخدام تضمين الكلمات المدرب مسبقًا؛
3. قم بتشغيل GAN_train_script.py. هذا النص موضح ذاتيًا ويلخص تدريب الخصومة الجديد. إذا كنت ترغب في التدريب على البيانات الخاصة بك، قم بتضمينها في الملفين "context_simple" و"answers_simple" باتباع نفس النمط. كما هو واضح في البرنامج النصي، أنا أستخدم الواجهة الخلفية لـ Theano ووحدة معالجة الرسومات، ويلزم إجراء بعض التعديلات لتشغيلها مع الواجهة الخلفية لـ TensorFlow.

إذا كنت ترغب في بدء التدريب على الخصومة من الصفر، فاجعل ملف الوزن my_model_weights.h5 (تم تدريبه مسبقًا على طريقة الخصومة الجديدة) يساوي my_model_weights20.h5 (تم تدريبه مسبقًا عن طريق فرض المعلم) وقم بتشغيل Train_script.py.