papernote

推薦システム

• 2018.07音楽レコメンデーションのためのディープコンテンツユーザー埋め込みモデル [arxiv] [note]
• 2017.08広告クリック予測のためのディープ & クロス ネットワーク [arxiv] [note]
• 2017.03 DeepFM: CTR 予測のための因数分解マシン ベースのニューラル ネットワーク [arxiv] [note]
• 2016.09 YouTube レコメンデーションのためのディープ ニューラル ネットワーク [調査] [メモ]
• 2016.06レコメンダーシステムのためのワイド&ディープラーニング [arxiv] [note]
• 2010.12因数分解マシン [ieee] [note]
• 1998.08レコメンダー システムの暗黙的フィードバック [aaai] [注]

QAとテキストの生成

QA: 検索ベース (リーダーボード):

• 2018.12共感ソーシャル チャットボット XiaoIce の設計と実装 [arxiv] [note]
• 2018.06深い発話集約によるマルチターン会話のモデリング [arxiv] [note]
• 2017.11対話システムに関する調査: 最近の進歩と新たなフロンティア [arxiv] [note]
• 2017.05 IRGAN [arxiv] [note]
• 2017.02自然言語文の双方向多視点マッチング [arxiv] [note]
• 2016.12検索ベースのチャットボットにおけるマルチターン応答選択のための新しいアーキテクチャ [arxiv] [note]
• 2016.11テキスト シーケンスを照合するための比較集計モデル [arxiv] [note]
• 2016.10ディープ ニューラル ネットワークによる回答選択のためのノイズ対比推定 [semanticscholar] [note]
• 2016.02注意深くプーリングするネットワーク [arxiv] [note]
• 2015.11非ファクトイド回答選択のための LSTM ベースの深層学習モデル [arxiv] [note]

チャットボット: 世代ベース:

• 2018.04 Chat More: ディープ モデルによるチャット トピックの深化と拡大 [論文] [ノート]
• 2018.01 Eliza から XiaoIce へ: ソーシャル チャットボットによる課題と機会 [arxiv] [翻訳]
• 2017.11動的語彙による神経応答生成 [arxiv] [note]
• 2017.11 MOJITALK: 感情的反応の生成 [arxiv] [note]
• 2017.07 AliMe Chat: シーケンスおよび再ランク付けベースのチャットボット エンジン [aclweb] [note]
• 2017.04内部メモリと外部メモリによる感情的な会話の生成 [arxiv] [note]
• 2017.03 CVAE を使用したニューラル対話モデルの談話レベルの多様性の学習 [arxiv] [note]
• 2017.02知識に基づくニューラル会話モデル [arxiv] [note]
• 2017.01ニューラル会話モデルを使用した長くて多様な応答の生成 [arxiv] [note]
• 2016.07後方向および前方向シーケンスへのシーケンス [arxiv] [note]
• 2016.06トピックを認識したニューラル応答の生成 [arxiv] [note]
• 2016.06対話生成のための深層強化学習 [arxiv] [note]
• 2015.03短文会話のためのニューラル応答マシン [arxiv] [note]

テキストの生成

• 2018.06ニューラルネットワークによるトピックからエッセイの生成 [論文] [ノート]
• 2016.10計画ベースのニューラルネットワークによる中国の詩の生成 [arxiv] [note]
• 2016.03シーケンスツーシーケンス学習へのコピー機構の組み込み [arxiv] [note]

分類

• 2019.05テキスト分類のために BERT を微調整するにはどうすればよいですか? [arxiv] [メモ]
• 2018.06 SGM: マルチラベル分類のためのシーケンス生成モデル [arxiv] [note]
• 2018.04 SemEval-2018 の ETH-DS3Lab タスク 7: ... 関係の分類と抽出 [arxiv] [note]
• 2017.08数百万の絵文字を使用して任意のドメインの表現を学習する... [aclweb] [note]
• 2016.xxアスペクトレベル感情分類のためのアテンションベースの LSTM [aclweb] [注]
• 2016.07効率的なテキスト分類のためのトリック集(fasttext) [arxiv] [note]
• 2016.06文書分類のための階層型アテンション ネットワーク [aclweb] [note]
• 2016.03再帰型および畳み込みニューラル ネットワークによる逐次短文分類 [arxiv] [note]
• 2015.07畳み込みニューラル ネットワークによるランク付けによる関係の分類 [aclweb] [note]
• 2014.08文分類のための畳み込みニューラル ネットワーク [aclweb] [note]
• 2012.07ベースラインとバイグラム: シンプルで良い感情とトピックの分類 [aclweb] [note]

埋め込み

単語の埋め込み:

• 2018.12 Word 埋め込みの次元について [arxiv] [note]
• 2018.09単語埋め込み内の多様な言語情報を明らかにする ... [arxiv] [note]
• 2018.02深い文脈化された単語表現(ELMo) [arxiv] [note]
• 2017.12事前トレーニングの分散型単語表現の進歩 [arxiv] [note]
• 2017.07多義的な単語の埋め込みを学習するためのシンプルなアプローチ [arxiv] [note]
• 2017.07サブワード RNN を使用した単語埋め込みの模倣 [arxiv] [note]
• 2016.07サブワード情報による Word ベクトルの強化 [arxiv] [note]
• 2013.01連続空間の単語表現における言語的規則性 [aclweb] [note]

文の埋め込み:

• 2018.09クロスビュートレーニングによる半教師ありシーケンスモデリング [arxiv] [note]
• 2018.05ベースラインにはもっと愛が必要: シンプルな単語埋め込みベースのモデルと ... [arxiv] [note]
• 2018.04会話から意味論的テキストの類似性を学ぶ [arxiv] [note]
• 2018.03文表現を学習するための効率的なフレームワーク [arxiv] [note]
• 2017.05 NLI データからの普遍的な文表現の教師あり学習 [arxiv] [note]
• 2016.11文埋め込みのシンプルだが突破するのが難しいベースライン [オープンレビュー] [メモ]
• 2016.05双方向 LSTM モデルとインナーアテンションを使用した自然言語推論の学習 [arxiv] [note]
• 2016.02ラベルなしデータからの文の分散表現の学習 [arxiv] [note]
• 2015.12非常に短いテキストの意味的類似性の学習 [arxiv] [note]
• 2015.11画像と言語の順序埋め込み [arxiv] [note]
• 2014.05文章と文書の分散表現 [arxiv] [note]

ユーザー埋め込み:

• 2017.05ニューラル ユーザー埋め込みを使用したソーシャル メディアからのメンタルヘルスの定量化 [arxiv] [note]

正則化と正規化

• 2018.08ドロップアウトは確率的デルタ則の特殊なケースです: より高速で正確な深層学習 [arxiv] [note]
• 2018.05バッチ正規化は最適化にどのように役立ちますか? (いいえ、内部共変量シフトに関するものではありません) [arxiv] [note]
• 2017.02バッチ再正規化 [arxiv] [note]
• 2016.07レイヤーの正規化 [arxiv] [note]
• 2016.05半教師ありテキスト分類のための敵対的トレーニング方法 [arxiv] [note]
• 2016.03反復バッチの正規化 [arxiv] [note]
• 2016.02重みの正規化 [arxiv] [note]
• 2015.10バッチ正規化リカレント ニューラル ネットワーク [arxiv] [note]
• 2015.07仮想敵対的トレーニングによる分布平滑化 [arxiv] [note]
• 2015.02バッチ正規化 [arxiv] [note]
• 2014.12敵対的な例の説明と利用 [arxiv] [note]
• 2013.06 DropConnect を使用したニューラル ネットワークの正則化 [論文] [メモ]
• 2009.06カリキュラム学習 [collobert] [note]

ニューラルネットワーク

• 2019.01スウィッシュの時間ですか? NLP タスク間での深層学習活性化関数の比較 [arxiv] [note]
• 2018.03ターゲットにされたドロップアウト [openreview] [note]
• 2017.11丁寧な言語モデル [aclweb] [note]
• 2017.04コンテキスト双方向長期短期記憶リカレント ニューラル ネットワーク言語モデル [aclweb] [note]
• 2017.04レビューの生成方法の学習と感情の発見 [arxiv] [note]
• 2017.04リカレント ニューラル ネットワークにおけるスパース性の探索 [arxiv] [note]
• 2017.02ディープネットは暗記によって学習しない [オープンレビュー] [ノート]
• 2017.01リカレント ニューラル ネットワークを使用したダイアログ コンテキスト言語モデリング [arxiv] [note]
• 2016.11単語ベクトルと単語分類子の結合: 言語モデリングのための損失フレームワーク [arxiv] [note]
• 2016.11深層学習を理解するには一般化を再考する必要がある [arxiv] [note]
• 2016.09勾配降下法最適化アルゴリズムの概要 [arxiv] [note]
• 2016.09ポインターセンチネル混合モデル [arxiv] [メモ]
• 2016.08出力埋め込みを使用した言語モデルの改善 [arxiv] [note]
• 2016.03記憶喪失を伴わない反復性ドロップアウト [arxiv] [note]
• 2015.11勾配ノイズの追加により非常に深いネットワークの学習が向上 [arxiv] [note]
• 2015.11半教師あり系列学習 [arxiv] [note]
• 2015.06リカレント ネットワークの視覚化と理解 [arxiv] [note]
• 2015.xx計算グラフ上の微積分: バックプロパゲーション [github] [note]
• 2014.12シーケンスモデリングにおけるゲートリカレントニューラルネットワークの実証的評価 [arxiv] [note]
• 2014.09リカレント ニューラル ネットワークの正則化 [arxiv] [note]
• 2013.12深層リカレント ニューラル ネットワークの構築方法 [arxiv] [note]
• 2010.xxディープ フィードフォワード ニューラル ネットワークのトレーニングの難しさを理解する [imag] [note]
• 2010.xxスタック型ノイズ除去オートエンコーダー [論文] [メモ]
• 2008.07自然言語処理のための統一アーキテクチャ [collobert] [note]

トランス

• 2019.09 ALBERT: 言語表現の自己教師あり学習のための Lite BERT [arxiv] [note]
• 2019.07 RoBERTa: 堅牢に最適化された BERT 事前トレーニング アプローチ [arxiv] [note]
• 2019.04 ERNIE: 知識統合による表現の強化 [arxiv] [note]
• 2018.10 BERT: 言語理解のための深い双方向トランスフォーマーの事前トレーニング [arxiv] [note]
• 2018.06生成的事前トレーニングによる言語理解の向上 [amazonaws] [note]
• 2018.03 Universal Sentence Encoder [arxiv] [note]
• 2017.06必要なのは注意だけです [arxiv] [note]

シーケンスからシーケンスへ

• 2018.07対話言語理解のための Sequence-to-Sequence データ拡張 [arxiv] [翻訳]
• 2018.07神経文法エラー修正のための Fluency Boost 学習と推論 [aclweb] [note]
• 2017.04要点を理解する: ポインタ生成ネットワークによる要約 [arxiv] [note]
• 2017.04テキストの流し読みの学習 [arxiv] [note]
• 2015.06ポインター ネットワーク [arxiv] [note]
• 2015.06スキップ思考ベクトル [arxiv] [note]
• 2014.12外国語としての文法 [arxiv] [note]
• 2014.12ニューラル機械翻訳における非常に大規模なターゲット語彙の使用について [arxiv] [note]
• 2014.09 Jontly Learning to Align and Translate によるニューラル機械翻訳 [arxiv] [note]
• 2014.09ニューラルネットワークによるシーケンスツーシーケンス学習 [arxiv] [note]

マルチタスク

• 2019.01自然言語理解のためのマルチタスクディープニューラルネットワーク [arxiv] [note]
• 2018.08マルチゲート専門家混合によるマルチタスク学習におけるタスク関係のモデリング [acm] [note]
• 2016.12ニューラル ネットワークにおける壊滅的な忘却の克服 [arxiv] [note]

名前エンティティの認識

• 2018.05 Lattice LSTM を使用した中国の NER [arxiv] [note]
• 2018.03階層を意識した損失を伴うニューラルのきめの細かいエンティティ タイプ分類 [arxiv] [note]
• 2017.04配列ラベル付けのための半教師ありマルチタスク学習 [arxiv] [note]
• 2016.03固有表現認識のためのニューラル アーキテクチャ [arxiv] [note]
• 2016.xxきめ細かいエンティティ タイプ分類のためのニューラル アーキテクチャ [aclweb] [注]

自己教師あり学習

• 2020.02視覚表現の対照学習のためのシンプルなフレームワーク [arxiv] [note]

その他

• 2017.06リレーショナル推論のためのシンプルなニューラル ネットワーク モジュール [arxiv] [note]
• 2016.11単語または文字、読解のためのきめの細かいゲート [arxiv] [note]
• 2016.08サブワードユニットを使用した希少単語のニューラル機械翻訳(BPE) [aclweb] [note]
• 2005.08興味とアクティビティの自動分析による検索のパーソナライズ [microsoft] [note]