チャットボット開発者向けのディープラーニング
- チャットボット開発者のためのディープラーニングの教材（2017年9月）
- 著者: チョ・ジェミン
- プルリクエストは大歓迎です:)
コンテンツ
01 日目 チャットボットの概要 (スライドシェア)
- NLP/チャットボット入門
- 韓国語/英語の NLP ツールキット/データセットの概要
- チュートリアル (コード)
- spaCy / gensim / konlpy / その他の韓国語ツールキットの紹介
- TF-IDF (scikit-learn) による感情分類
- チャットボット パイプライン / カカオトーク (フラスコ) / Slack (スラッカー) 経由での提供
02 日目 CNN/RNN によるテキスト分類 (スライドシェア)
- テキスト分類のための CNN
- ワード CNN / ダイナミック CNN / 文字 CNN / 非常に深い CNN
- テキスト分類用の RNN
- 双方向 RNN / 再帰 NN / ツリー LSTM / デュアル エンコーダ LSTM
- 高度な CNN/RNN アーキテクチャ
- QRNN / SRU / ByteNet / SliceNet / LSTM-CNNs-CRF
- チュートリアル (コード)
- Word-CNN による感情分析
- PyTorch スタイルガイド
- トーチテキストのチュートリアル
03 日目 Seq2Seq による会話モデリング / アテンション (スライドシェア)
- 会話モデリング用の Seq2Seq モデル
- Seq2Seq / ニューラル会話モデル / 多様性を促進する目標: MMI
- 高度な Seq2Seq アーキテクチャ
- Show and Tell / HRED / VHRED / 個人ベースのニューラル会話モデル / コンテキスト化された単語ベクトル (CoVe)
- 注意メカニズム
- 高度な注意アーキテクチャ
- 見せる、出席する、伝える / ポインター ネットワーク / CopyNet / BiDAF / Transformer
- チュートリアル (コード)
04 日目 外部メモリを使用した QA (スライド共有)
- 外部メモリを使用した QA
- メモリ ネットワーク / エンドツーエンド メモリ ネットワーク / キーバリュー メモリ ネットワーク / ニューラル チューリング マシン
- 高度なメモリ アーキテクチャ
- DNC / ライフロングメモリモジュール / コンテキストシーケンスメモリネットワーク
- 高度な対話アーキテクチャ
- MILABOT / 対話ベースの言語学習 / エンドツーエンドの目標指向対話 / ディープ RL / 敵対的
- チュートリアル (コード)
- 質問応答用のエンドツーエンド メモリ ネットワーク (bAbI)
依存関係
パイソン3
- コードは Anacodna Python 3.6 で記述されています。
- Conda または virtualenv によるパッケージ管理をお勧めします。
ML / NLP
- パイトーチ
- トーチテキスト
- スペイシー
- sckit-learn
- ゲンシム
- konlpy (Jpype3が必要)
インタラクティブ / データフレーム / プロット
カカオトーク / スラックボット
- フラスコ
- Webソケットクライアント
- 美しいスープ4
- 怠け者
