cs224d

cs224d التعلم العميق للبرمجة اللغوية العصبية

المهمة 1

محتويات مجموعة المشكلات للمهمة 1 موجودة هنا مع ملف PDF الخاص بالمهمة المضمنة أيضًا في هذا المستودع كمهمة 1.pdf

جري

يستخدم هذا بيثون 2.7. قم بتشغيل التدريبات باستخدام python q{1,2,3}_{problem}.py، وقم بشكل أساسي بتنفيذ أي تعليمات برمجية عن طريق تمرير الملف إلى مترجم python.

الاختبارات

تحتوي بعض الوظائف على اختبارات ولكن بعضها لا يزال مفقودًا.

أعتقد أن هناك جزءًا كبيرًا من q3_word2vec.py يمكنه الاستفادة من اختبارات التعقل.

المهمة 2

جري

تستفيد هذه المهمة من استخدام وحدات معالجة الرسومات، لذا توجد تعليمات حول تشغيل مثيل موضعي على AWS. أستخدم مثيل p2.8xlarge والذي اعتبارًا من 04 يونيو يبلغ 7.20 دولارًا للساعة. يتيح مثيل Spot إمكانية تشغيل نفس نوع المثيل مقابل 1.3 دولار في الساعة.

لتقديم طلب للحصول على مثيل فوري، قم بتشغيل ./aws_setup/setup.sh حاليًا، وهذا يفترض جهاز الكمبيوتر المحمول الخاص بي ويستخدم ملف تعريف AWS الذي قمت بإعداده لحساب AWS الشخصي الخاص بي. ستحتاج إلى تغيير الأشياء وربما لن ينتقل هذا أيضًا لأن AWS AMI الذي أستخدمه موجود في حسابي الخاص. هذا لا يسير بشكل جيد في الوقت الحالي

config.json هو ملف محفوظ من طلب المثيل الفوري الأول الخاص بي باستخدام وحدة التحكم الإدارية في AWS. تسهل البرامج النصية config.json وsetup.sh المحفوظة في المجلد aws_setup إعادة طلب مثيل في المرة القادمة التي أرغب فيها في إجراء تدريب.

بمجرد انتهاء المثيل، سيكون هناك مجلد cs224 في المجلد الرئيسي. git pull origin master ولديك أحدث التعليمات البرمجية. نفذ باستخدام python q3_RNNLM.py

البرامج النصية لدعم AWS

يحتوي ./aws_setup على نصوص برمجية لدعم البنية التحتية لمثيل بقعة AWS

المصدر ./aws_setup/commands.sh للحصول على بعض الأوامر الأساسية التي يتم تنفيذها: describe setup البيئة، login مثيل موضعي جديد إلى المثيل، terminate عند الانتهاء؛

تسجيل الدخول

عند تشغيل مثيلات N متعددة، اختر أي منها تريد تسجيل الدخول إليه من خلال توفير رقم المثيل من 0-N. ./aws_setup/login.sh 0 لتسجيل الدخول إلى المثيل الأول

المهمة 3

تم التدريب على أفضل عمليات التنفيذ في 90 دقيقة على p2.xlarge وكانت الدقة 0.745 عند التحقق من الصحة.

لم يؤدي تحديث حجم التضمين إلى 2800 من البداية 35 إلى تغيير الدقة الناتجة كثيرًا.

كان تنظيم l2 مهمًا للغاية في الحصول على نتائج تحقق جيدة.

كانت دقة مجموعة التدريب ومجموعة التحقق من الصحة لا تزال متباعدة، وكانت دقة مجموعة التدريب في كثير من الأحيان أعلى من 92٪

جميع نتائج تشغيل الواجب 3 وعمليات الكتابة الفردية موجودة في الواجب 3/الإخراج والمهمة 3/README.md