cs224d
1.0.0
Содержимое набора задач для задания 1 находится здесь, а PDF-файл задания также включен в этот репозиторий как задание1.pdf.
Здесь используется Python 2.7. Запустите упражнения, используя python q{1,2,3}_{problem}.py, по сути, выполните любой код, передав файл интерпретатору Python.
Для некоторых функций есть тесты, но некоторые все еще отсутствуют.
Я думаю, что есть большой кусок q3_word2vec.py, который может извлечь выгоду из тестов на работоспособность.
Преимущества этого задания заключаются в использовании графических процессоров, поэтому есть инструкции по развертыванию спотового экземпляра на AWS. Я использую экземпляр p2.8xlarge, который по состоянию на 4 июня стоит 7,20 доллара в час. Спотовый инстанс позволяет запускать тот же тип инстанса за 1,3 доллара в час.
Чтобы сделать запрос на спотовый экземпляр, запустите ./aws_setup/setup.sh в настоящее время предполагается, что это мой ноутбук и используется профиль AWS, который я настроил для своей личной учетной записи AWS. Вам нужно будет что-то изменить, и это, вероятно, не будет успешным, потому что AWS AMI, который я использую, находится в моей собственной учетной записи. Сейчас это не очень хорошо распространяется.
config.json — это сохраненный файл из моего первого запроса спотового экземпляра с помощью консоли управления AWS. Сохраненные сценарии config.json и setup.sh в папке aws_setup значительно упрощают повторный запрос экземпляра в следующий раз, когда я захочу запустить обучение.
Как только экземпляр будет запущен, в домашней папке появится папка cs224. git pull origin master и у вас есть последняя версия кода. Выполнить с помощью python q3_RNNLM.py
./aws_setup содержит сценарии поддержки для создания инфраструктуры спотовых экземпляров AWS.
исходный файл ./aws_setup/commands.sh содержит несколько основных команд, которые выполняют: describe среды setup нового спотового экземпляра, login в экземпляр, terminate его, когда вы закончите;
При запуске нескольких экземпляров выберите, к какому из них следует войти, указав номер экземпляра от 0 до N. ./aws_setup/login.sh 0 для входа в первый экземпляр
Лучшие исполнения были обучены за 90 минут на p2.xlarge и при проверке имели точность 0,745.
Обновление размера встраивания до 2800 с начальных 35 мало повлияло на полученную точность.
Регуляризация l2 была, как и должно быть, очень важна для получения хороших результатов проверки.
Точности обучающего набора и проверочного набора по-прежнему сильно различались, точность обучающего набора часто превышала %92.
Все результаты выполнения Задания 3 и отдельные записи находятся в файлах присваивания3/output и присваивания3/README.md.
