Beranda>Terkait pemrograman>Kode Sumber AI
Unduh

logo

NLP-Models-Tensorflow , Mengumpulkan pembelajaran mesin dan model pembelajaran mendalam tensorflow untuk masalah NLP, penyederhanaan kode di dalam Jupyter Notebooks 100% .

Daftar isi

  • Peringkasan Abstraktif
  • bot obrolan
  • Pengurai Ketergantungan
  • Penandaan Entitas
  • Peringkasan Ekstraktif
  • Generator
  • Deteksi Bahasa
  • Terjemahan Mesin Neural
  • OCR
  • Penandaan POS
  • Pertanyaan-Jawaban
  • Pasangan kalimat
  • Pidato-ke-Teks
  • Koreksi ejaan
  • Pertanyaan-Jawaban SQUAD
  • Berasal
  • Augmentasi Teks
  • Klasifikasi Teks
  • Kesamaan Teks
  • Teks-ke-Ucapan
  • Pembuat Topik
  • Pemodelan Topik
  • Peringkasan Ekstraktif Tanpa Pengawasan
  • Vektorisasi
  • Vocoder Tua ke Muda
  • Visualisasi
  • Perhatian

Tujuan

Implementasi aslinya cukup kompleks dan tidak ramah bagi pemula. Jadi saya mencoba menyederhanakan sebagian besarnya. Selain itu, masih banyak lagi implementasi makalah yang belum dirilis. Jadi jangan ragu untuk menggunakannya untuk penelitian Anda sendiri!

Saya akan melampirkan repositori github untuk model yang tidak saya terapkan dari awal, pada dasarnya saya menyalin, menempelkan, dan memperbaiki kode tersebut untuk masalah yang tidak digunakan lagi.

Versi Tensorflow

Tensorflow hanya versi 1.13 dan lebih tinggi, tidak termasuk versi 2.X. 1.13 < Aliran Tensor < 2.0 

pip install -r requirements.txt

Isi

Peringkasan Abstraktif

Dilatih tentang berita India.

Akurasi berdasarkan 10 epoch saja, dihitung menggunakan posisi kata.

Daftar lengkap (12 buku catatan)
  1. LSTM Seq2Seq menggunakan pemodelan topik, akurasi pengujian 13,22%
  2. LSTM Seq2Seq + Luong Perhatian menggunakan pemodelan topik, akurasi pengujian 12,39%
  3. LSTM Seq2Seq + Beam Decoder menggunakan pemodelan topik, akurasi pengujian 10,67%
  4. LSTM Dua Arah + Luong Attention + Beam Decoder menggunakan pemodelan topik, akurasi pengujian 8,29%
  5. Pointer-Generator + Bahdanau, https://github.com/xueyouluo/my_seq2seq, akurasi pengujian 15,51%
  6. Copynet, akurasi pengujian 11,15%
  7. Pointer-Generator + Luong, https://github.com/xueyouluo/my_seq2seq, akurasi pengujian 16,51%
  8. Seq2Seq melebar, akurasi pengujian 10,88%
  9. Dilatasi Seq2Seq + Self Attention, akurasi tes 11,54%
  10. BERT + Dilatasi CNN Seq2seq, akurasi pengujian 13,5%
  11. perhatian diri + Pointer-Generator, akurasi tes 4,34%
  12. Dilatasi-CNN Seq2seq + Pointer-Generator, akurasi pengujian 5,57%

bot obrolan

Dilatih korpus Dialog Film Cornell, tabel akurasi di chatbot.

Daftar lengkap (54 buku catatan)
  1. Sel dasar Seq2Seq-manual
  2. LSTM Seq2Seq-manual
  3. Panduan GRU Seq2Seq
  4. Sel dasar Seq2Seq-API Serakah
  5. LSTM Seq2Seq-API Serakah
  6. GRU Seq2Seq-API Serakah
  7. Sel dasar Seq2Seq-manual dua arah
  8. Panduan Seq2Seq Dua Arah LSTM
  9. Panduan Seq2Seq Dua Arah GRU
  10. Sel dasar Seq2Seq-API Dua Arah Serakah
  11. LSTM Dua Arah Seq2Seq-API Serakah
  12. GRU Dua Arah Seq2Seq-API Serakah
  13. Sel dasar Seq2Seq-manual + Perhatian Luong
  14. LSTM Seq2Seq-manual + Perhatian Luong
  15. GRU Seq2Seq-manual + Perhatian Luong
  16. Sel dasar Seq2Seq-manual + Bahdanau Perhatian
  17. LSTM Seq2Seq-manual + Bahdanau Perhatian
  18. GRU Seq2Seq-manual + Bahdanau Perhatian
  19. LSTM Dua Arah Seq2Seq-manual + Perhatian Luong
  20. GRU Dua Arah Seq2Seq-manual + Perhatian Luong
  21. LSTM Dua Arah Seq2Seq-manual + Bahdanau Perhatian
  22. GRU Dua Arah Seq2Seq-manual + Perhatian Bahdanau
  23. LSTM Dua Arah Seq2Seq-manual + Bahdanau mundur + Luong maju
  24. GRU Dua Arah Seq2Seq-manual + Bahdanau mundur + Luong maju
  25. LSTM Seq2Seq-API Serakah + Perhatian Luong
  26. GRU Seq2Seq-API Serakah + Perhatian Luong
  27. LSTM Seq2Seq-API Serakah + Perhatian Bahdanau
  28. GRU Seq2Seq-API Serakah + Perhatian Bahdanau
  29. Dekoder Sinar LSTM Seq2Seq-API
  30. Dekoder Sinar GRU Seq2Seq-API
  31. LSTM Dua Arah Seq2Seq-API + Perhatian Luong + Dekoder Sinar
  32. GRU Dua Arah Seq2Seq-API + Perhatian Luong + Dekoder Sinar
  33. LSTM Dua Arah Seq2Seq-API + Bahdanau mundur + Luong maju + Stack Bahdanau Luong Perhatian + Beam Decoder
  34. GRU Dua Arah Seq2Seq-API + Bahdanau mundur + Luong maju + Stack Bahdanau Luong Perhatian + Beam Decoder
  35. bytenet
  36. LSTM Seq2Seq + tf.estimator
  37. Lapisan kapsul + LSTM Seq2Seq-API Greedy
  38. Lapisan kapsul + LSTM Seq2Seq-API + Perhatian Luong + Dekoder Sinar
  39. LSTM Dua Arah Seq2Seq-API + Bahdanau mundur + Luong maju + Stack Bahdanau Luong Perhatian + Beam Decoder + Dropout + L2
  40. DNC Seq2Seq
  41. LSTM Dua Arah Seq2Seq-API + Perhatian Monotik Luong + Dekoder Sinar
  42. LSTM Dua Arah Seq2Seq-API + Perhatian Monotik Bahdanau + Dekoder Sinar
  43. Jaringan Memori Ujung-ke-Ujung + Sel dasar
  44. Jaringan Memori End-to-End + sel LSTM
  45. Hanya perhatian yang Anda butuhkan
  46. Transformator-XL
  47. Yang Anda butuhkan hanyalah perhatian + Pencarian Sinar
  48. Transformator-XL + LSTM
  49. GPT-2 + LSTM
  50. CNN Seq2seq
  51. Konv-Encoder + LSTM
  52. Dekoder Tacotron + Serakah
  53. Dekoder Tacotron + Beam
  54. Google NMT

Ketergantungan-Parser

Dilatih tentang Ketergantungan Bahasa Inggris CONLL. Latih set untuk melatih, pengembangan, dan set pengujian untuk menguji.

Stackpointer dan Biaffine-attention aslinya dari https://github.com/XuezheMax/NeuroNLP2 yang ditulis dalam Pytorch.

Akurasi berdasarkan arc, tipe, dan akurasi root setelah 15 epoch saja.

Daftar lengkap (8 buku catatan)
  1. RNN dua arah + CRF + Biaffine, akurasi busur 70,48%, akurasi tipe 65,18%, akurasi root 66,4%
  2. RNN dua arah + Bahdanau + CRF + Biaffine, akurasi busur 70,82%, akurasi tipe 65,33%, akurasi root 66,77%
  3. RNN dua arah + Luong + CRF + Biaffine, akurasi busur 71,22%, akurasi tipe 65,73%, akurasi root 67,23%
  4. BERT Base + CRF + Biaffine, akurasi busur 64,30%, akurasi tipe 62,89%, akurasi root 74,19%
  5. RNN dua arah + Perhatian Biaffine + Entropi Silang, akurasi busur 72,42%, akurasi tipe 63,53%, akurasi akar 68,51%
  6. BERT Base + Biaffine Attention + Cross Entropy, akurasi busur 72,85%, akurasi tipe 67,11%, akurasi root 73,93%
  7. RNN dua arah + Stackpointer, akurasi busur 61,88%, akurasi tipe 48,20%, akurasi root 89,39%
  8. Basis XLNET + Perhatian Biaffine + Entropi Silang, akurasi busur 74,41%, akurasi tipe 71,37%, akurasi root 73,17%

Penandaan Entitas

Dilatih di CONLL NER.

Daftar lengkap (9 buku catatan)
  1. RNN dua arah + CRF, akurasi pengujian 96%
  2. RNN dua arah + Perhatian Luong + CRF, akurasi pengujian 93%
  3. RNN dua arah + Bahdanau Perhatian + CRF, akurasi pengujian 95%
  4. Char Ngrams + RNN Dua Arah + Bahdanau Perhatian + CRF, akurasi pengujian 96%
  5. Char Ngrams + RNN Dua Arah + Bahdanau Perhatian + CRF, akurasi pengujian 96%
  6. Char Ngrams + Jaringan Residual + Bahdanau Perhatian + CRF, akurasi pengujian 69%
  7. Char Ngrams + Perhatian yang Anda semua Butuhkan + CRF, akurasi tes 90%
  8. BERT, akurasi pengujian 99%
  9. XLNET-Base, akurasi pengujian 99%

Peringkasan Ekstraktif

Dilatih pada kumpulan data CNN News.

Akurasi berdasarkan ROUGE-2.

Daftar lengkap (4 buku catatan)
  1. LSTM RNN, akurasi pengujian 16,13%
  2. Dilatasi-CNN, akurasi tes 15,54%
  3. Perhatian Multihead, akurasi pengujian 26,33%
  4. Basis BERT

Generator

Dilatih tentang kumpulan data Shakespeare.

Daftar lengkap (15 buku catatan)
  1. RNN + LSTM dari segi karakter
  2. Pencarian RNN + Beam berdasarkan karakter
  3. RNN + LSTM + Penyematan berdasarkan karakter
  4. RNN + LSTM dari segi kata
  5. RNN + LSTM + Penyematan dari segi kata
  6. Dari segi karakter + Seq2Seq + GRU
  7. Bijaksana kata + Seq2Seq + GRU
  8. RNN dari segi karakter + LSTM + Perhatian Bahdanau
  9. RNN dari segi karakter + LSTM + Perhatian Luong
  10. Bijaksana kata + Seq2Seq + GRU + Beam
  11. Dari segi karakter + Seq2Seq + GRU + Bahdanau Perhatian
  12. Bijaksana kata + Seq2Seq + GRU + Bahdanau Perhatian
  13. Pencarian CNN + Beam Dilatasi berdasarkan karakter
  14. Pencarian Transformator + Balok
  15. Pencarian Transformer XL + Beam

Deteksi bahasa

Dilatih tentang kumpulan data Tatoeba.

Daftar lengkap (1 buku catatan)
  1. Char N-Gram teks cepat

Terjemahan Mesin Neural

Dilatih dalam bahasa Inggris-Prancis, tabel akurasi dalam terjemahan mesin saraf.

Daftar lengkap (53 buku catatan)

1.basic-seq2seq 2.lstm-seq2seq 3.gru-seq2seq 4.basic-seq2seq-contrib-greedy 5.lstm-seq2seq-contrib-greedy 6.gru-seq2seq-contrib-greedy 7.basic-birnn-seq2seq 8.lstm-birnn-seq2seq 9.gru-birnn-seq2seq 10.basic-birnn-seq2seq-contrib-greedy 11.lstm-birnn-seq2seq-contrib-greedy 12.gru-birnn-seq2seq-contrib-greedy 13.basic -seq2seq-luong 14.lstm-seq2seq-luong 15.gru-seq2seq-luong 16.basic-seq2seq-bahdanau 17.lstm-seq2seq-bahdanau 18.gru-seq2seq-bahdanau 19.basic-birnn-seq2seq-bahdanau 20.lstm-birnn-seq2seq-bahdanau 21.gru-birnn-seq2seq-bahdanau 22.basic-birnn-seq2seq-luong 23.lstm-birnn-seq2seq-luong 24.gru-birnn-seq2seq-luong 25.lstm-seq2seq -kontribusi-serakah-luong 26.gru-seq2seq-contrib-greedy-luong 27.lstm-seq2seq-contrib-greedy-bahdanau 28.gru-seq2seq-contrib-greedy-bahdanau 29.lstm-seq2seq-contrib-beam-luong 30.gru-seq2seq- kontribusi-balok-luong 31.lstm-seq2seq-contrib-beam-bahdanau 32.gru-seq2seq-contrib-beam-bahdanau 33.lstm-birnn-seq2seq-contrib-beam-bahdanau 34.lstm-birnn-seq2seq-contrib-beam-luong 35.gru-birnn-seq2seq-contrib-beam-bahdanau 36.gru-birnn-seq2seq-contrib-beam-luong 37.lstm-birnn-seq2seq-contrib-beam-luongmonotonic 38.gru-birnn-seq2seq-contrib-beam -luongmonotik 39.lstm-birnn-seq2seq-contrib-beam-bahdanaumonotonic 40.gru-birnn-seq2seq-contrib-beam-bahdanaumonotic 41.residual-lstm-seq2seq-greedy-luong 42.residual-gru-seq2seq-greedy-luong 43.residual-lstm-seq2seq-greedy-bahdanau 44.residual-gru-seq2seq-greedy-bahdanau 45.memory-network-lstm-decoder-greedy 46.google-nmt 47.transformer-encoder-transformer-decoder 48.transformer -encoder-lstm-decoder-serakah 49.bertmultibahasa-encoder-bertmultibahasa-decoder 50.bertmultibahasa-encoder-lstm-decoder 51.bertmultibahasa-encoder-transformer-decoder 52.bertenglish-encoder-transformer-decoder 53.transformer-t2t-2gpu

OCR (pengenalan karakter optik)

Daftar lengkap (2 buku catatan)
  1. CNN + LSTM RNN, akurasi pengujian 100%
  2. Im2Latex, akurasi tes 100%

Penandaan POS

Dilatih tentang CONLL POS.

Daftar lengkap (8 buku catatan)
  1. RNN dua arah + CRF, akurasi pengujian 92%
  2. RNN dua arah + Perhatian Luong + CRF, akurasi pengujian 91%
  3. RNN dua arah + Bahdanau Perhatian + CRF, akurasi pengujian 91%
  4. Char Ngrams + RNN Dua Arah + Bahdanau Perhatian + CRF, akurasi pengujian 91%
  5. Char Ngrams + RNN Dua Arah + Bahdanau Perhatian + CRF, akurasi pengujian 91%
  6. Char Ngrams + Jaringan Residual + Bahdanau Perhatian + CRF, akurasi tes 3%
  7. Char Ngrams + Perhatian yang Anda semua Butuhkan + CRF, akurasi tes 89%
  8. BERT, akurasi pengujian 99%

Pertanyaan-Jawaban

Dilatih tentang Set Data bAbI.

Daftar lengkap (4 buku catatan)
  1. Jaringan Memori Ujung-ke-Ujung + Sel dasar
  2. Jaringan Memori Ujung-ke-Ujung + sel GRU
  3. Jaringan Memori End-to-End + sel LSTM
  4. Memori Dinamis

Pasangan kalimat

Dilatih di Film Cornell--Dialogs Corpus

Daftar lengkap (1 buku catatan)
  1. BERT

Pidato ke Teks

Dilatih tentang kumpulan data pidato Toronto.

Daftar lengkap (11 buku catatan)
  1. Tacotron, https://github.com/Kyubyong/tacotron_asr, akurasi pengujian 77,09%
  2. BiRNN LSTM, akurasi pengujian 84,66%
  3. BiRNN Seq2Seq + Luong Attention + Cross Entropy, akurasi pengujian 87,86%
  4. BiRNN Seq2Seq + Bahdanau Perhatian + Cross Entropy, akurasi pengujian 89,28%
  5. BiRNN Seq2Seq + Bahdanau Perhatian + CTC, akurasi pengujian 86,35%
  6. BiRNN Seq2Seq + Luong Attention + CTC, akurasi pengujian 80,30%
  7. CNN RNN + Bahdanau Perhatian, akurasi tes 80,23%
  8. CNN RNN melebar, akurasi pengujian 31,60%
  9. Wavenet, akurasi pengujian 75,11%
  10. Deep Speech 2, akurasi tes 81,40%
  11. Wav2Vec Transfer learning BiRNN LSTM, akurasi pengujian 83,24%

Koreksi ejaan

Daftar lengkap (4 buku catatan)
  1. Basis BERT
  2. Basis XLNET
  3. BERT-Base Cepat
  4. BERT-Base akurat

Pertanyaan-Jawaban SQUAD

Dilatih tentang Kumpulan Data SQUAD.

Daftar lengkap (1 buku catatan)
  1. BERT, 
{ "exact_match" : 77.57805108798486 , "f1" : 86.18327335287402 }

Berasal

Terlatih Lemmatisasi Bahasa Inggris.

Daftar lengkap (6 buku catatan)
  1. LSTM + Seq2Seq + Balok
  2. GRU + Seq2Seq + Balok
  3. LSTM + BiRNN + Seq2Seq + Balok
  4. GRU + BiRNN + Seq2Seq + Balok
  5. DNC + Seq2Seq + Serakah
  6. BiRNN + Bahdanau + Copynet

Augmentasi Teks

Daftar lengkap (8 buku catatan)
  1. Sarung Tangan yang Telah Dilatih sebelumnya
  2. Probabilitas TF GRU VAE-seq2seq-beam
  3. Probabilitas TF LSTM VAE-seq2seq-beam
  4. GRU VAE-seq2seq-beam + Bahdanau Perhatian TF-probabilitas
  5. VAE + Perhatian Bahdanau deterministik, https://github.com/HareeshBahuleyan/tf-var-attention
  6. VAE + VAE Bahdanau Perhatian, https://github.com/HareeshBahuleyan/tf-var-attention
  7. Pengambilan Sampel Basis BERT + Inti
  8. Pengambilan Sampel Basis XLNET + Inti

Klasifikasi teks

Dilatih tentang kumpulan data sentimen bahasa Inggris, tabel akurasi dalam klasifikasi teks.

Daftar lengkap (79 buku catatan)
  1. RNN sel dasar
  2. RNN sel dasar + Engsel
  3. Sel dasar RNN + Huber
  4. RNN dua arah sel dasar
  5. Sel dasar RNN Dua Arah + Engsel
  6. Sel dasar RNN Dua Arah + Huber
  7. RNN sel LSTM
  8. Sel LSTM RNN + Engsel
  9. Sel LSTM RNN + Huber
  10. RNN dua arah sel LSTM
  11. Sel LSTM RNN Dua Arah + Huber
  12. Sel LSTM RNN + Putus Sekolah + L2
  13. RNN sel GRU
  14. Sel GRU RNN + Engsel
  15. sel GRU RNN + Huber
  16. RNN dua arah sel GRU
  17. Sel GRU RNN Dua Arah + Engsel
  18. Sel GRU RNN Dua Arah + Huber
  19. LSTM RNN + Konv2D
  20. K-maks Konv1d
  21. LSTM RNN + Konv1D + Jalan Raya
  22. LSTM RNN + Perhatian Dasar
  23. LSTM Dilatasi RNN
  24. RNN sel LSTM Norma Lapisan
  25. Hanya Jaringan Syaraf Perhatian
  26. Jaringan Neural Perhatian Multihead
  27. Mesin Turing Saraf
  28. LSTM Seq2Seq
  29. LSTM Seq2Seq + Perhatian Luong
  30. LSTM Seq2Seq + Bahdanau Perhatian
  31. LSTM Seq2Seq + Dekoder Sinar
  32. LSTM Dua Arah Seq2Seq
  33. Jaring Penunjuk
  34. Sel LSTM RNN + Bahdanau Perhatian
  35. Sel LSTM RNN + Perhatian Luong
  36. Sel LSTM RNN + Tumpukan Bahdanau Luong Perhatian
  37. Sel LSTM RNN Dua Arah + Bahdanau mundur + Luong maju
  38. bytenet
  39. LSTM cepat-lambat
  40. Jaringan Siam
  41. LSTM Seq2Seq + tf.estimator
  42. Lapisan kapsul + RNN LSTM
  43. Lapisan kapsul + LSTM Seq2Seq
  44. Lapisan kapsul + LSTM Dua Arah Seq2Seq
  45. LSTM Bersarang
  46. LSTM Seq2Seq + Jalan Raya
  47. Kerugian triplet + LSTM
  48. DNC (Komputer Neural Diferensiasi)
  49. KonvLSTM
  50. Konvd Net Temporal
  51. Batch-semua Triplet-loss + LSTM
  52. Teks cepat
  53. Jaringan Konvolusi Berpagar
  54. Unit Berulang Sederhana
  55. Jaringan Perhatian Hierarki LSTM
  56. Transformator Dua Arah
  57. Jaringan Memori Dinamis
  58. Jaringan Entitas
  59. Jaringan Memori Ujung-ke-Ujung
  60. BOW-Chars Jaringan yang sangat jarang
  61. Jaringan Sisa menggunakan Atrous CNN
  62. Jaringan Sisa menggunakan Atrous CNN + Bahdanau Attention
  63. CNN piramida dalam
  64. Transformator-XL
  65. Transfer pembelajaran GPT-2 345M
  66. Kuasi-RNN
  67. Tacotron
  68. Iris GRU
  69. Iris GRU + Bahdanau
  70. jaringan gelombang
  71. Mentransfer pembelajaran BERT Base
  72. Transfer pembelajaran XL-net Besar
  73. LSTM BiRNN global Maks dan pengumpulan rata-rata
  74. Transfer pembelajaran BERT Base drop 6 lapisan
  75. Transfer pembelajaran BERT Drop besar 12 lapisan
  76. Transfer pembelajaran Basis XL-net
  77. Transfer pembelajaran ALBERT
  78. Transfer pembelajaran Basis ELECTRA
  79. Transfer pembelajaran ELECTRA Besar

Kesamaan Teks

Dilatih di MNLI.

Daftar lengkap (10 buku catatan)
  1. BiRNN + Kerugian kontras, akurasi pengujian 73,032%
  2. BiRNN + Cross entropy, akurasi pengujian 74,265%
  3. BiRNN + Hilangnya lingkaran, akurasi pengujian 75,857%
  4. BiRNN + Proxy loss, akurasi pengujian 48,37%
  5. BERT Base + Cross entropy, akurasi pengujian 91,123%
  6. BERT Base + Circle loss, akurasi pengujian 89,903%
  7. Basis ELECTRA + Entropi silang, akurasi pengujian 96,317%
  8. ELECTRA Base + Circle loss, akurasi pengujian 95,603%
  9. XLNET Base + Cross entropy, akurasi pengujian 93,998%
  10. XLNET Base + Circle loss, akurasi pengujian 94,033%

Teks ke Ucapan

Dilatih tentang kumpulan data pidato Toronto.

Daftar lengkap (8 buku catatan)
  1. Tacotron, https://github.com/Kyubyong/tacotron
  2. CNN Seq2seq + Vocoder CNN melebar
  3. Seq2Seq + Bahdanau Perhatian
  4. Seq2Seq + Perhatian Luong
  5. CNN Dilatasi + Perhatian Monoton + Vocoder CNN Dilatasi
  6. CNN Dilatasi + Perhatian Diri + Vocoder CNN Dilatasi
  7. CNN Dalam + Perhatian Monoton + Vocoder CNN melebar
  8. CNN Dalam + Perhatian Diri + Vocoder CNN melebar

Pembuat Topik

Dilatih tentang berita Malaysia.

Daftar lengkap (4 buku catatan)
  1. TAT-LSTM
  2. TAV-LSTM
  3. MTA-LSTM
  4. CNN Seq2seq melebar

Pemodelan Topik

Diekstraksi dari kumpulan data sentimen bahasa Inggris.

Daftar lengkap (3 buku catatan)
  1. LDA2Vec
  2. Perhatian BERT
  3. Perhatian XLNET

Peringkasan Ekstraktif Tanpa Pengawasan

Dilatih pada buku acak.

Daftar lengkap (3 buku catatan)
  1. Lewati pemikiran Vektor
  2. Jaringan Sisa menggunakan Atrous CNN
  3. Jaringan Sisa menggunakan Atrous CNN + Bahdanau Attention

Vektorisasi

Dilatih tentang kumpulan data sentimen bahasa Inggris.

Daftar lengkap (11 buku catatan)
  1. Word Vector menggunakan contoh softmax CBOW
  2. Word Vector menggunakan estimasi kontrastif kebisingan CBOW
  3. Word Vector menggunakan sampel skipgram softmax
  4. Word Vector menggunakan estimasi kontrastif noise skipgram
  5. Tertanam yang Diawasi
  6. Kerugian triplet + LSTM
  7. Encoder Otomatis LSTM
  8. LSTM Kerugian Triplet Batch-Semua
  9. Teks cepat
  10. ELMO (biLM)
  11. Kerugian triplet + BERT

Visualisasi

Daftar lengkap (4 buku catatan)
  1. Peta panas perhatian di Bahdanau Perhatian
  2. Peta panas perhatian pada Perhatian Luong
  3. Perhatian BERT, https://github.com/hsm207/bert_attn_viz
  4. Perhatian XLNET

Vocoder Tua ke Muda

Dilatih tentang kumpulan data pidato Toronto.

Daftar lengkap (1 buku catatan)
  1. CNN melebar

Perhatian

Daftar lengkap (8 buku catatan)
  1. Bahdanau
  2. Luong
  3. Hierarki
  4. Aditif
  5. Lembut
  6. Perhatian-lebih-Perhatian
  7. API Bahdanau
  8. API Luong

Bukan pembelajaran mendalam

  1. bot obrolan Markov
  2. Ringkasan dekomposisi (3 buku catatan)
Memperluas
Informasi Tambahan
Aplikasi Terkait
Direkomendasikan untuk Anda
Informasi Terkait Semua