الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

Xiaozhi، روبوت دردشة صيني آخر:yum:

باستخدام المجموعة الصينية المثيرة للاهتمام qingyun، روبوت الدردشة الصيني الذي كتبه @Doragd: snowman:

  • رغم أنها ليست مثالية :muscle:, ليست رائعة إلى هذا الحد :paw_prints:

  • لكن تم ترميزها بنفسي:sparkling_heart:، لذا

  • آمل أن يتمكن الجميع من إعطاء المزيد من النجوم لدعم مبتدئ البرمجة اللغوية العصبية وأصدقائه؟

؟خلفية

هذا المشروع هو في الواقع وحدة فرعية لتصميم دورة هندسة البرمجيات. هدفنا هو تطوير نظام ذكي لمعالجة تذاكر خدمة العملاء.

سير العمل الفعلي لنظام أمر عمل خدمة العملاء الذكي هو: عندما يطرح شخص ما سؤالاً على النظام، يبحث النظام أولاً في قاعدة المعرفة لمعرفة ما إذا كان هناك سؤال ذو صلة، وإذا كان الأمر كذلك، فإنه يعيد الإجابة على السؤال. إذا لم يكن الشخص راضيًا في هذا الوقت، فيمكنه تقديم أمر عمل مباشرةً. إذا لم يكن موجودًا في قاعدة المعرفة، فسيتم استدعاء برنامج الدردشة هذا للرد التلقائي.

يشبه سيناريو الخدمة لهذا النظام نظام خدمة العملاء في Tencent Cloud. يأتي العملاء في الغالب للتشاور مع المشكلات ذات الصلة (الخوادم السحابية، وأسماء النطاقات، وما إلى ذلك)، وبالتالي فإن قاعدة المعرفة هي أيضًا مجموعة من الاستشارات واستكشاف الأخطاء وإصلاحها (الأسئلة والأجوبة). حول الخوادم السحابية وأسماء النطاقات وما إلى ذلك.

تم إكمال الواجهة الأمامية للنظام وتفاعل الرسائل الأمامية والخلفية بواسطة زميل آخر @adjlyadv، وذلك باستخدام React+Django بشكل أساسي.

@Doragd مسؤول عن الحصول على قاعدة المعرفة والكتابة والتدريب واختبار برنامج الدردشة الآلي. محتوى هذا الريبو يدور حول هذا أيضًا.

تأثير الاختبار

  • الإجابة دون استخدام قاعدة المعرفة
  • استخدم قاعدة المعرفة للإجابة
  • التأثير العام للنظام:

?هيكل المشروع 

 │  .gitignore
│  config.py               #模型配置参数
│  corpus.pth              #已经过处理的数据集
│  dataload.py             #dataloader
│  datapreprocess.py       #数据预处理
│  LICENSE
│  main.py               
│  model.py       
│  README.md
│  requirements.txt
│  train_eval.py            #训练和验证,测试
│  
├─checkpoints              
│      chatbot_0509_1437   #已经训练好的模型
│      
├─clean_chat_corpus
│      qingyun.tsv         #语料库
│      
├─QA_data
│      QA.db               #知识库
│      QA_test.py          #使用知识库时调用
│      stop_words.txt      #停用词
│      __init__.py
│      
└─utils
        beamsearch.py      #to do 未完工
        greedysearch.py    #贪婪搜索，用于测试
        __init__.py

المكتبات التابعة

تثبيت التبعيات 

$ pip install -r requirements.txt

?ابدأ

المعالجة المسبقة للبيانات (يمكن حذفها) 

$ python datapreprocess.py

قم بالمعالجة المسبقة للنص لإنشاء corpus.pth ( تم تحميل corpus.pth هنا، لذلك يمكن حذف هذه الخطوة )

المعلمات القابلة للتعديل: 

 # datapreprocess.py
corpus_file = 'clean_chat_corpus/qingyun.tsv' #未处理的对话数据集
max_voc_length = 10000 #字典最大长度
min_word_appear = 10 #加入字典的词的词频最小值
max_sentence_length = 50 #最大句子长度
save_path = 'corpus.pth' #已处理的对话数据集保存路径

يستخدم

  • استخدم قاعدة المعرفة

عند استخدام قاعدة المعرفة، تحتاج إلى تمرير المعلمة use_QA_first=True في هذا الوقت، بالنسبة لسلسلة الإدخال، تتم مطابقة أفضل سؤال وإجابة أولاً في قاعدة المعرفة وإعادتها. عندما لا يمكن العثور عليه، يتم استدعاء chatbot لإنشاء رد تلقائيًا.

قاعدة المعرفة هنا عبارة عن مجموعة من 100 سؤال وإجابة متكررة تم تجميعها من المستندات الرسمية لـ Tencent Cloud، للاختبار فقط! 

$ python main.py chat --use_QA_first=True
  • عدم استخدام قاعدة المعرفة

نظرًا لاحتياجات تصميم الدورة التدريبية، تمت إضافة أزواج الأسئلة والأجوبة الخاصة بـ Tencent Cloud، ولكنها غير ذات صلة بمشروع روبوت الدردشة، لذلك عند استخدامها بشكل عام، use_QA_first=False ، تكون هذه المعلمة افتراضية على True 

$ python main.py chat --use_QA_first=False
  • استخدم المعلمات الافتراضية 
$ python main.py chat
  • الخروج من الدردشة: أدخل exit أو quit أو q

معلمات أخرى قابلة للتكوين

شرح في ملف config.py

عندما تحتاج إلى تمرير معلمات جديدة، ما عليك سوى تمريرها من سطر الأوامر، في شكل 

$ python main.py chat --model_ckpt= ' checkpoints/chatbot_0509_1437 ' --use_QA_first=False

يشير الأمر أعلاه إلى المسار لتحميل النموذج المُدرب وما إذا كان سيتم استخدام قاعدة المعرفة

?التنفيذ الفني

مجموعة

اسم الجسم عدد الجسم شرح مصادر المجموعة خصائص الجسم عينة الجسم ما إذا كانت قد شاركت
تشينغيون (مجموعة تشينغيون) 10 واط مجموعة تواصل chatbot جيدة نسبيا، وصديقة للحياة س: يبدو أنك تحب المال كثيراً. ج: أوه، حقاً؟ ثم أنت تقريبا هناك لا
  • المصدر: https://github.com/codemayq/chinese_chatbot_corpus

Seq2Seq

  • التشفير: GRU ثنائي الطبقة ثنائي الاتجاه
  • وحدة فك التشفير: GRU أحادية الطبقة

انتباه

  • الاهتمام العالمي، وذلك باستخدام نقطة لحساب الدرجات
  • المرجع https://arxiv.org/abs/1508.04025

?نموذج التدريب والتقييم 

$ python train_eval.py train [--options]

لم تتم كتابة جزء التقييم الكمي بعد، ويجب قياسه بالحيرة حاليًا، ولا يمكنه سوى إنشاء الجمل وتقييم الجودة يدويًا. 

$ python train_eval.py eval [--options]

?سجل وملخص الحفرة القفز

  • التجربة الأكثر عمقًا هي أن "هناك فجوة في تطبيقات برمجة N بين الفهم وفهم معرفة التعلم العميق." على الرغم من أن النظرية واضحة جدًا للجميع، إلا أنه عندما يتعلق الأمر بتنفيذ البرمجة، ستكون هناك دائمًا مشاكل كذا وكذا: من معالجة مجموعات البيانات، إلى تنفيذ برمجة العديد من الصيغ، إلى ضبط المعلمات، وتكوين وحدة معالجة الرسومات وغيرها من المشكلات.
  • كانت العملية الفعلية لهذه الممارسة هي اتباع البرنامج التعليمي لـ PyTorch والاطلاع على جزء Chatbot أولاً، وبعد تشغيله، قمت بتغيير المجموعة، ومعالجة المجموعة، ثم إعادة هيكلة الكود وفقًا لنمط الفصل الدراسي، ثم كان هناك ما لا نهاية أثناء عملية التصحيح، واجهت العديد من المخاطر، خاصة عند نقل الموترات إلى وحدة معالجة الرسومات، نواجه مشكلات مختلفة، ويرجع ذلك أساسًا إلى أننا لا نعرف بالضبط ما الذي تم نقله إلى (الجهاز).
    • من خلال الاختبار، وجدنا أن model.to(device) سينقل المعلمات فقط إلى وحدة معالجة الرسومات، ولن يحرك موتر العضو المحدد في الفصل، لذلك إذا قمت بتحديد موتر جديد في الطريقة الأمامية، فتذكر نقله.
    • هناك أيضًا مسألة ترتيب الحركة: قم أولاً بنقل النموذج إلى وحدة معالجة الرسومات، ثم قم بتحديد المُحسِّن. وطريقة النقل: model=model.to(device)، لا تنسى تخصيص القيمة.
    • من السهل أن تنفد ذاكرة وحدة معالجة الرسومات. انتبه إلى استخدام الذاكرة عند كتابة التعليمات البرمجية وتقليل تكرار الموترات.
    • بعد تغيير المجموعة الصينية في البداية، فشل التدريب دائمًا في التقارب، وفي النهاية اكتشفت أن إعداد Batch_size كان صغيرًا جدًا، في الواقع، شعرت أن Batch_size يجب أن يكون كبيرًا قدر الإمكان عندما تكون ذاكرة الفيديو يكفي، لقد رأيت هذا من قبل، لكنني نسيته تمامًا عند كتابة الكود. هذا يوضح أنني لم أفهم ما يكفي عندما رأيت دفعة صغيرة في ذلك الوقت، ولا يزال يتعين علي كتابة التعليمات البرمجية حتى أتمكن من التجذر بعمق في قلوب الناس.
    • هناك مشكلة أخرى وهي أنني أسيء فهم torch.long، معتقدًا أنها نقطة عائمة عالية الدقة، ولكن تبين أنها من النوع int64، مما تسبب في حدوث خطأ. لقد استغرق الأمر وقتًا طويلاً لمعرفة ما يحدث. هذا يخبرنا أن نقرأ الوثائق بعناية.
    • المكسب الأخير هو الإلمام بكيفية تنفيذ النموذج فعليًا، وهو أمر مهم.
  • في الواقع، تأثير هذا النموذج ليس جيدًا جدًا. بصرف النظر عن مشاكل النموذج نفسه، وجدت أن جودة تجزئة الكلمات ستؤثر بشكل خطير على جودة الجملة، ومع ذلك، عندما لم أقم حتى بضبط كلمات التوقف تجزئة الكلمة، قد تحدث بعض النتائج الغريبة.
  • مشكلة أخرى هي أنه عند التعامل مع تسلسلات ذات أطوال متغيرة، إذا تم تعريف وظيفة الخسارة بنفسك، فمن السهل أن تصبح غير مستقرة، وما زلنا ندرس واجهة برمجة التطبيقات الرسمية.
  • خلال هذه الممارسة، وجدت أيضًا أن فهمي لبعض المعلمات لم يكن عميقًا بما فيه الكفاية، ولم أكن أعرف كيفية تعديلها، لذلك اضطررت إلى استكمال النظرية.
  • ولا يزال يتعين القيام بتقييم النموذج.

شكر وتقدير

  • البرنامج التعليمي الرسمي لـ Chatbot
    • https://pytorch.org/tutorials/beginner/chatbot_tutorial.html
  • توفير الإحضار الصينية
    • https://github.com/codemayq/chinese_chatbot_corpus
  • يتوافق المحتوى مع البرنامج التعليمي الرسمي لـ Chatbot، ولكنه يحتوي على تعليقات مفصلة حول التعليمات البرمجية
    • http://fancyerii.github.io/2019/02/14/chatbot/
  • يرجى الرجوع إلى طريقة الكتابة وعادات النموذج.
    • https://github.com/chenyuntc/pytorch-book
يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل