Startseite>Programmierbezogen>AI-Quellcode
Herunterladen

Logo

NLP-Models-Tensorflow , sammelt Modelle für maschinelles Lernen und Tensorflow-Deep-Learning für NLP-Probleme, Code wird in Jupyter Notebooks zu 100 % vereinfacht .

Inhaltsverzeichnis

  • Abstrakte Zusammenfassung
  • Chatbot
  • Abhängigkeitsparser
  • Entitäts-Tagging
  • Extraktive Zusammenfassung
  • Generator
  • Spracherkennung
  • Neuronale maschinelle Übersetzung
  • OCR
  • POS-Tagging
  • Frage-Antworten
  • Satzpaare
  • Speech-to-Text
  • Rechtschreibkorrektur
  • SQUAD Frage-Antworten
  • Stemmen
  • Texterweiterung
  • Textklassifizierung
  • Textähnlichkeit
  • Text-to-Speech
  • Themengenerator
  • Themenmodellierung
  • Unbeaufsichtigte extraktive Zusammenfassung
  • Vektorisierer
  • Alt-zu-Jung-Vocoder
  • Visualisierung
  • Aufmerksamkeit

Objektiv

Ursprüngliche Implementierungen sind recht komplex und nicht wirklich einsteigerfreundlich. Deshalb habe ich versucht, das meiste davon zu vereinfachen. Außerdem gibt es jede Menge noch nicht veröffentlichte Release-Dokumente zur Implementierung. Nutzen Sie es also gerne für Ihre eigene Recherche!

Ich werde Github-Repositorys für Modelle anhängen, die ich nicht von Grund auf implementiert habe. Im Grunde kopiere, füge ich diesen Code ein und behebe ihn für veraltete Probleme.

Tensorflow-Version

Nur Tensorflow-Version 1.13 und höher, nicht enthalten 2.X-Version. 1,13 < Tensorflow < 2,0 

pip install -r requirements.txt

Inhalt

Abstrakte Zusammenfassung

Auf Nachrichten aus Indien geschult.

Genauigkeit basiert nur auf 10 Epochen, berechnet anhand der Wortpositionen.

Vollständige Liste (12 Notizbücher)
  1. LSTM Seq2Seq mit Themenmodellierung, Testgenauigkeit 13,22 %
  2. LSTM Seq2Seq + Luong Aufmerksamkeit mithilfe der Themenmodellierung, Testgenauigkeit 12,39 %
  3. LSTM Seq2Seq + Beam Decoder mit Themenmodellierung, Testgenauigkeit 10,67 %
  4. LSTM Bidirektional + Luong Attention + Beam Decoder mit Themenmodellierung, Testgenauigkeit 8,29 %
  5. Pointer-Generator + Bahdanau, https://github.com/xueyouluo/my_seq2seq, Testgenauigkeit 15,51 %
  6. Copynet, Testgenauigkeit 11,15 %
  7. Zeigergenerator + Luong, https://github.com/xueyouluo/my_seq2seq, Testgenauigkeit 16,51 %
  8. Dilatiertes Seq2Seq, Testgenauigkeit 10,88 %
  9. Dilatiertes Seq2Seq + Selbstaufmerksamkeit, Testgenauigkeit 11,54 %
  10. BERT + Dilatiertes CNN Seq2seq, Testgenauigkeit 13,5 %
  11. Selbstaufmerksamkeit + Pointer-Generator, Testgenauigkeit 4,34 %
  12. Dilated-CNN Seq2seq + Pointer-Generator, Testgenauigkeit 5,57 %

Chatbot

Geschult auf dem Cornell Movie Dialog-Korpus und der Genauigkeitstabelle im Chatbot.

Vollständige Liste (54 Notizbücher)
  1. Grundlegendes Seq2Seq-Handbuch für Zellen
  2. LSTM Seq2Seq-Handbuch
  3. GRU Seq2Seq-Handbuch
  4. Basiszelle Seq2Seq-API Greedy
  5. LSTM Seq2Seq-API Greedy
  6. GRU Seq2Seq-API Gierig
  7. Basiszelle Bidirektionales Seq2Seq-Handbuch
  8. LSTM Bidirektionales Seq2Seq-Handbuch
  9. GRU Bidirektionales Seq2Seq-Handbuch
  10. Grundlegende Zelle Bidirektionale Seq2Seq-API Greedy
  11. LSTM Bidirektionale Seq2Seq-API Greedy
  12. GRU Bidirektionale Seq2Seq-API Greedy
  13. Basiszelle Seq2Seq-Handbuch + Luong Achtung
  14. LSTM Seq2Seq-Handbuch + Luong Achtung
  15. GRU Seq2Seq-Handbuch + Luong Achtung
  16. Basiszelle Seq2Seq-Handbuch + Bahdanau Achtung
  17. LSTM Seq2Seq-Handbuch + Bahdanau Achtung
  18. GRU Seq2Seq-Handbuch + Bahdanau Achtung
  19. LSTM Bidirektionales Seq2Seq-Handbuch + Luong Achtung
  20. GRU Bidirektionales Seq2Seq-Handbuch + Luong Achtung
  21. LSTM Bidirektionales Seq2Seq-Handbuch + Bahdanau Achtung
  22. GRU Bidirektionales Seq2Seq-Handbuch + Bahdanau Achtung
  23. LSTM Bidirektionales Seq2Seq-manuell + rückwärts Bahdanau + vorwärts Luong
  24. GRU Bidirektionales Seq2Seq-manuell + rückwärts Bahdanau + vorwärts Luong
  25. LSTM Seq2Seq-API Greedy + Luong Achtung
  26. GRU Seq2Seq-API Greedy + Luong Achtung
  27. LSTM Seq2Seq-API Greedy + Bahdanau Achtung
  28. GRU Seq2Seq-API Greedy + Bahdanau Achtung
  29. LSTM Seq2Seq-API Strahldecoder
  30. GRU Seq2Seq-API Beam Decoder
  31. LSTM Bidirektionale Seq2Seq-API + Luong Attention + Beam Decoder
  32. GRU Bidirektionale Seq2Seq-API + Luong Attention + Beam Decoder
  33. LSTM Bidirektionale Seq2Seq-API + Rückwärts Bahdanau + Vorwärts Luong + Stack Bahdanau Luong Attention + Beam Decoder
  34. GRU Bidirektionale Seq2Seq-API + Rückwärts Bahdanau + Vorwärts Luong + Stack Bahdanau Luong Attention + Beam Decoder
  35. Bytenet
  36. LSTM Seq2Seq + tf.estimator
  37. Kapselschichten + LSTM Seq2Seq-API Greedy
  38. Kapselschichten + LSTM Seq2Seq-API + Luong Attention + Beam Decoder
  39. LSTM Bidirektionale Seq2Seq-API + rückwärts Bahdanau + vorwärts Luong + Stack Bahdanau Luong Achtung + Beam Decoder + Dropout + L2
  40. DNC Seq2Seq
  41. LSTM Bidirektionale Seq2Seq-API + Luong Monotic Attention + Beam Decoder
  42. LSTM Bidirektionale Seq2Seq-API + Bahdanau Monotic Attention + Beam Decoder
  43. End-to-End-Speichernetzwerk + Basiszelle
  44. End-to-End-Speichernetzwerk + LSTM-Zelle
  45. Aufmerksamkeit ist alles, was Sie brauchen
  46. Transformer-XL
  47. Aufmerksamkeit ist alles, was Sie brauchen + Beam Search
  48. Transformer-XL + LSTM
  49. GPT-2 + LSTM
  50. CNN Seq2seq
  51. Konv.-Encoder + LSTM
  52. Tacotron + Greedy-Decoder
  53. Tacotron + Beam-Decoder
  54. Google NMT

Abhängigkeitsparser

Ausgebildet in CONLL English Dependency. Trainiere Sets zum Trainieren, entwickle und teste Sets zum Testen.

Stackpointer und Biaffine-attention ursprünglich von https://github.com/XuezheMax/NeuroNLP2, geschrieben in Pytorch.

Genauigkeit basierend auf Bogen-, Typen- und Wurzelgenauigkeiten nur nach 15 Epochen.

Vollständige Liste (8 Notizbücher)
  1. Bidirektionales RNN + CRF + Biaffine, Bogengenauigkeit 70,48 %, Typengenauigkeit 65,18 %, Wurzelgenauigkeit 66,4 %
  2. Bidirektionales RNN + Bahdanau + CRF + Biaffin, Bogengenauigkeit 70,82 %, Typengenauigkeit 65,33 %, Wurzelgenauigkeit 66,77 %
  3. Bidirektionales RNN + Luong + CRF + Biaffine, Bogengenauigkeit 71,22 %, Typengenauigkeit 65,73 %, Wurzelgenauigkeit 67,23 %
  4. BERT Base + CRF + Biaffine, Bogengenauigkeit 64,30 %, Typengenauigkeit 62,89 %, Wurzelgenauigkeit 74,19 %
  5. Bidirektionales RNN + Biaffine Aufmerksamkeit + Kreuzentropie, Bogengenauigkeit 72,42 %, Typengenauigkeit 63,53 %, Wurzelgenauigkeit 68,51 %
  6. BERT-Basis + Biaffine Aufmerksamkeit + Kreuzentropie, Bogengenauigkeit 72,85 %, Typengenauigkeit 67,11 %, Wurzelgenauigkeit 73,93 %
  7. Bidirektionales RNN + Stackpointer, Bogengenauigkeit 61,88 %, Typengenauigkeit 48,20 %, Wurzelgenauigkeit 89,39 %
  8. XLNET-Basis + Biaffine Aufmerksamkeit + Kreuzentropie, Bogengenauigkeit 74,41 %, Typengenauigkeit 71,37 %, Wurzelgenauigkeit 73,17 %

Entity-Tagging

Ausgebildet auf CONLL NER.

Vollständige Liste (9 Notizbücher)
  1. Bidirektionales RNN + CRF, Testgenauigkeit 96 %
  2. Bidirektionales RNN + Luong Attention + CRF, Testgenauigkeit 93 %
  3. Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 95 %
  4. Char Ngrams + Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 96 %
  5. Char Ngrams + Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 96 %
  6. Char Ngrams + Residual Network + Bahdanau Attention + CRF, Testgenauigkeit 69 %
  7. Char Ngrams + Achtung, Sie brauchen alles + CRF, Testgenauigkeit 90 %
  8. BERT, Testgenauigkeit 99 %
  9. XLNET-Base, Testgenauigkeit 99 %

Extraktive Zusammenfassung

Auf Basis des CNN News-Datensatzes trainiert.

Genauigkeit basierend auf ROUGE-2.

Vollständige Liste (4 Notizbücher)
  1. LSTM RNN, Testgenauigkeit 16,13 %
  2. Dilatiertes CNN, Testgenauigkeit 15,54 %
  3. Multihead Achtung, Testgenauigkeit 26,33 %
  4. BERT-Basis

Generator

Basierend auf dem Shakespeare-Datensatz trainiert.

Vollständige Liste (15 Notizbücher)
  1. Zeichenweises RNN + LSTM
  2. Zeichenweise RNN + Beam-Suche
  3. Zeichenweises RNN + LSTM + Einbettung
  4. Wortweises RNN + LSTM
  5. Wortweises RNN + LSTM + Einbettung
  6. Zeichenweise + Seq2Seq + GRU
  7. Wortweise + Seq2Seq + GRU
  8. Zeichenweise RNN + LSTM + Bahdanau Achtung
  9. Zeichenweise RNN + LSTM + Luong Achtung
  10. Wortweise + Seq2Seq + GRU + Beam
  11. Zeichenmäßig + Seq2Seq + GRU + Bahdanau Achtung
  12. Wortweise + Seq2Seq + GRU + Bahdanau Achtung
  13. Zeichenweise erweiterte CNN + Beam-Suche
  14. Transformator + Strahlsuche
  15. Transformer XL + Strahlsuche

Spracherkennung

Auf dem Tatoeba-Datensatz trainiert.

Vollständige Liste (1 Notizbücher)
  1. Fast-Text-Char-N-Gramm

Neuronale maschinelle Übersetzung

Ausgebildet in Englisch-Französisch, Genauigkeitstabelle in neuronaler maschineller Übersetzung.

Vollständige Liste (53 Notizbücher)

1.basic-seq2seq 2.lstm-seq2seq 3.gru-seq2seq 4.basic-seq2seq-contrib-greedy 5.lstm-seq2seq-contrib-greedy 6.gru-seq2seq-contrib-greedy 7.basic-birnn-seq2seq 8.lstm-birnn-seq2seq 9.gru-birnn-seq2seq 10.basic-birnn-seq2seq-contrib-greedy 11.lstm-birnn-seq2seq-contrib-greedy 12.gru-birnn-seq2seq-contrib-greedy 13.basic-seq2seq-luong 14.lstm-seq2seq-luong 15.gru-seq2seq-luong 16.basic-seq2seq-bahdanau 17.lstm-seq2seq-bahdanau 18.gru-seq2seq-bahdanau 19.basic-birnn-seq2seq-bahdanau 20.lstm-birnn-seq2seq-bahdanau 21.gru-birnn-seq2seq-bahdanau 22.basic-birnn-seq2seq-luong 23.lstm-birnn-seq2seq-luong 24.gru-birnn-seq2seq-luong 25.lstm-seq2seq-contrib-greedy-luong 26.gru-seq2seq-contrib-greedy-luong 27.lstm-seq2seq-contrib-greedy-bahdanau 28.gru-seq2seq-contrib-greedy-bahdanau 29.lstm-seq2seq-contrib-beam-luong 30.gru-seq2seq-contrib-beam-luong 31.lstm-seq2seq-contrib-beam-bahdanau 32.gru-seq2seq-contrib-beam-bahdanau 33.lstm-birnn-seq2seq-contrib-beam-bahdanau 34.lstm-birnn-seq2seq-contrib-beam-luong 35.gru-birnn-seq2seq-contrib-beam-bahdanau 36.gru-birnn-seq2seq-contrib-beam-luong 37.lstm-birnn-seq2seq-contrib-beam-luongmonotonisch 38.gru-birnn-seq2seq-contrib-beam-luongmonotic 39.lstm-birnn-seq2seq-contrib-beam-bahdanaumonotonic 40.gru-birnn-seq2seq-contrib-beam-bahdanaumonotic 41.residual-lstm-seq2seq-greedy-luong 42.residual-gru-seq2seq-greedy-luong 43.residual-lstm-seq2seq-greedy-bahdanau 44.residual-gru-seq2seq-greedy-bahdanau 45.memory-network-lstm-decoder-greedy 46.google-nmt 47.transformer-encoder-transformer-decoder 48.transformer-encoder-lstm-decoder-greedy 49.bertmultilingual-encoder-bertmultilingual-decoder 50.bertmultilingual-encoder -lstm-Decoder 51.bertmultilingual-encoder-transformer-decoder 52.bertenglish-encoder-transformer-decoder 53.transformer-t2t-2gpu

OCR (optische Zeichenerkennung)

Vollständige Liste (2 Notizbücher)
  1. CNN + LSTM RNN, Testgenauigkeit 100 %
  2. Im2Latex, Testgenauigkeit 100 %

POS-Tagging

Auf CONLL POS geschult.

Vollständige Liste (8 Notizbücher)
  1. Bidirektionales RNN + CRF, Testgenauigkeit 92 %
  2. Bidirektionales RNN + Luong Attention + CRF, Testgenauigkeit 91 %
  3. Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 91 %
  4. Char Ngrams + Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 91 %
  5. Char Ngrams + Bidirektionales RNN + Bahdanau Attention + CRF, Testgenauigkeit 91 %
  6. Char Ngrams + Residual Network + Bahdanau Attention + CRF, Testgenauigkeit 3 ​​%
  7. Char Ngrams + Achtung, Sie brauchen alles + CRF, Testgenauigkeit 89 %
  8. BERT, Testgenauigkeit 99 %

Frage-Antworten

Auf dem bAbI-Datensatz geschult.

Vollständige Liste (4 Notizbücher)
  1. End-to-End-Speichernetzwerk + Basiszelle
  2. End-to-End-Speichernetzwerk + GRU-Zelle
  3. End-to-End-Speichernetzwerk + LSTM-Zelle
  4. Dynamisches Gedächtnis

Satzpaar

Ausgebildet auf Cornell Movie--Dialogs Corpus

Vollständige Liste (1 Notizbücher)
  1. BERT

Sprache zum Text

Basierend auf dem Sprachdatensatz von Toronto trainiert.

Vollständige Liste (11 Notizbücher)
  1. Tacotron, https://github.com/Kyubyong/tacotron_asr, Testgenauigkeit 77,09 %
  2. BiRNN LSTM, Testgenauigkeit 84,66 %
  3. BiRNN Seq2Seq + Luong Attention + Cross Entropy, Testgenauigkeit 87,86 %
  4. BiRNN Seq2Seq + Bahdanau Attention + Cross Entropy, Testgenauigkeit 89,28 %
  5. BiRNN Seq2Seq + Bahdanau Attention + CTC, Testgenauigkeit 86,35 %
  6. BiRNN Seq2Seq + Luong Attention + CTC, Testgenauigkeit 80,30 %
  7. CNN RNN + Bahdanau Achtung, Testgenauigkeit 80,23 %
  8. Erweitertes CNN RNN, Testgenauigkeit 31,60 %
  9. Wavenet, Testgenauigkeit 75,11 %
  10. Deep Speech 2, Testgenauigkeit 81,40 %
  11. Wav2Vec Transferlernen BiRNN LSTM, Testgenauigkeit 83,24 %

Rechtschreibkorrektur

Vollständige Liste (4 Notizbücher)
  1. BERT-Basis
  2. XLNET-Basis
  3. BERT-Base Fast
  4. BERT-Base genau

SQUAD Frage-Antworten

Auf dem SQUAD-Datensatz trainiert.

Vollständige Liste (1 Notizbücher)
  1. BERT, 
{ "exact_match" : 77.57805108798486 , "f1" : 86.18327335287402 }

Stemmen

Ausgebildet in englischer Lemmatisierung.

Vollständige Liste (6 Notizbücher)
  1. LSTM + Seq2Seq + Beam
  2. GRU + Seq2Seq + Beam
  3. LSTM + BiRNN + Seq2Seq + Beam
  4. GRU + BiRNN + Seq2Seq + Beam
  5. DNC + Seq2Seq + Greedy
  6. BiRNN + Bahdanau + Copynet

Texterweiterung

Vollständige Liste (8 Notizbücher)
  1. Vorgefertigter Handschuh
  2. GRU VAE-seq2seq-beam TF-Wahrscheinlichkeit
  3. LSTM VAE-seq2seq-beam TF-Wahrscheinlichkeit
  4. GRU VAE-seq2seq-beam + Bahdanau Achtung TF-Wahrscheinlichkeit
  5. VAE + deterministische Bahdanau-Aufmerksamkeit, https://github.com/HareeshBahuleyan/tf-var-attention
  6. VAE + VAE Bahdanau Achtung, https://github.com/HareeshBahuleyan/tf-var-attention
  7. BERT-Basis + Kernprobenahme
  8. XLNET-Base + Kernprobenahme

Textklassifizierung

Schulung anhand eines englischen Sentiment-Datensatzes und einer Genauigkeitstabelle bei der Textklassifizierung.

Vollständige Liste (79 Notizbücher)
  1. Grundlegendes Zellen-RNN
  2. Basiszelle RNN + Scharnier
  3. Grundzelle RNN + Huber
  4. Bidirektionales RNN für Basiszellen
  5. Basiszelle Bidirektionales RNN + Scharnier
  6. Basiszelle Bidirektionales RNN + Huber
  7. LSTM-Zellen-RNN
  8. LSTM-Zelle RNN + Scharnier
  9. LSTM-Zelle RNN + Huber
  10. LSTM-Zelle Bidirektionales RNN
  11. LSTM-Zelle Bidirektionales RNN + Huber
  12. LSTM-Zelle RNN + Dropout + L2
  13. GRU-Zellen-RNN
  14. GRU-Zelle RNN + Scharnier
  15. GRU-Zelle RNN + Huber
  16. Bidirektionales RNN der GRU-Zelle
  17. GRU-Zelle Bidirektionales RNN + Scharnier
  18. GRU-Zelle Bidirektionales RNN + Huber
  19. LSTM RNN + Conv2D
  20. K-max Conv1d
  21. LSTM RNN + Conv1D + Highway
  22. LSTM RNN + Grundlegende Aufmerksamkeit
  23. LSTM erweitertes RNN
  24. Layer-Norm LSTM-Zellen-RNN
  25. Nur Aufmerksamkeits-Neuronales Netzwerk
  26. Neuronales Multihead-Attention-Netzwerk
  27. Neuronale Turingmaschine
  28. LSTM Seq2Seq
  29. LSTM Seq2Seq + Luong Achtung
  30. LSTM Seq2Seq + Bahdanau Achtung
  31. LSTM Seq2Seq + Strahldecoder
  32. LSTM Bidirektionale Seq2Seq
  33. Zeigernetz
  34. LSTM-Zelle RNN + Bahdanau Achtung
  35. LSTM-Zelle RNN + Luong Achtung
  36. LSTM-Zelle RNN + Stack Bahdanau Luong Achtung
  37. LSTM-Zelle Bidirektionales RNN + rückwärts Bahdanau + vorwärts Luong
  38. Bytenet
  39. Schnell-langsamer LSTM
  40. Siamesisches Netzwerk
  41. LSTM Seq2Seq + tf.estimator
  42. Kapselschichten + RNN LSTM
  43. Kapselschichten + LSTM Seq2Seq
  44. Kapselschichten + LSTM Bidirektionale Seq2Seq
  45. Verschachteltes LSTM
  46. LSTM Seq2Seq + Highway
  47. Triplettverlust + LSTM
  48. DNC (Differenzierbarer neuronaler Computer)
  49. ConvLSTM
  50. Temporales Convd-Netz
  51. Batch-All-Triplett-Verlust + LSTM
  52. Schnelltext
  53. Gated Convolution Network
  54. Einfache wiederkehrende Einheit
  55. LSTM Hierarchisches Aufmerksamkeitsnetzwerk
  56. Bidirektionale Transformatoren
  57. Dynamisches Speichernetzwerk
  58. Entitätsnetzwerk
  59. End-to-End-Speichernetzwerk
  60. BOW-Chars Tiefes, spärliches Netzwerk
  61. Restnetzwerk mit Atrous CNN
  62. Restnetzwerk mit Atrous CNN + Bahdanau Attention
  63. Tiefe Pyramide CNN
  64. Transformator-XL
  65. Transferlernen GPT-2 345M
  66. Quasi-RNN
  67. Tacotron
  68. GRU in Scheiben schneiden
  69. GRU + Bahdanau in Scheiben schneiden
  70. Wavenet
  71. Übertragen Sie das Lernen auf die BERT-Basis
  72. Transferlernen XL-net Large
  73. LSTM BiRNN globales maximales und durchschnittliches Pooling
  74. Übertragen Sie das Lernen von BERT Base auf 6 Ebenen
  75. Transferlernen BERT Großer Tropfen 12 Schichten
  76. Transferlernen XL-net Base
  77. Transferlernen ALBERT
  78. Transferlernen ELECTRA Base
  79. Transferlernen ELECTRA Large

Textähnlichkeit

Auf MNLI geschult.

Vollständige Liste (10 Notizbücher)
  1. BiRNN + Kontrastverlust, Testgenauigkeit 73,032 %
  2. BiRNN + Kreuzentropie, Testgenauigkeit 74,265 %
  3. BiRNN + Kreisverlust, Testgenauigkeit 75,857 %
  4. BiRNN + Proxy-Verlust, Testgenauigkeit 48,37 %
  5. BERT-Basis + Kreuzentropie, Testgenauigkeit 91,123 %
  6. BERT Basis + Kreisverlust, Testgenauigkeit 89,903 %
  7. ELECTRA Base + Kreuzentropie, Testgenauigkeit 96,317 %
  8. ELECTRA Base + Circle-Verlust, Testgenauigkeit 95,603 %
  9. XLNET Basis + Kreuzentropie, Testgenauigkeit 93,998 %
  10. XLNET Basis + Kreisverlust, Testgenauigkeit 94,033 %

Text-to-Speech

Basierend auf dem Sprachdatensatz von Toronto trainiert.

Vollständige Liste (8 Notizbücher)
  1. Tacotron, https://github.com/Kyubyong/tacotron
  2. CNN Seq2seq + erweiterter CNN-Vocoder
  3. Seq2Seq + Bahdanau Achtung
  4. Seq2Seq + Luong Achtung
  5. Erweitertes CNN + monothonische Aufmerksamkeit + erweiterter CNN-Vocoder
  6. Erweitertes CNN + Selbstaufmerksamkeit + erweiterter CNN-Vocoder
  7. Tiefes CNN + monothische Aufmerksamkeit + erweiterter CNN-Vocoder
  8. Tiefes CNN + Selbstaufmerksamkeit + erweiterter CNN-Vocoder

Themengenerator

Auf Nachrichten aus Malaysia geschult.

Vollständige Liste (4 Notizbücher)
  1. TAT-LSTM
  2. TAV-LSTM
  3. MTA-LSTM
  4. Erweiterte CNN Seq2seq

Themenmodellierung

Aus dem englischen Stimmungsdatensatz extrahiert.

Vollständige Liste (3 Notizbücher)
  1. LDA2Vec
  2. BERT Achtung
  3. XLNET Achtung

Unbeaufsichtigte extraktive Zusammenfassung

Auf zufällige Bücher trainiert.

Vollständige Liste (3 Notizbücher)
  1. Skip-Gedanken-Vektor
  2. Restnetzwerk mit Atrous CNN
  3. Restnetzwerk mit Atrous CNN + Bahdanau Attention

Vektorisierer

Schulung anhand eines englischen Sentiment-Datensatzes.

Vollständige Liste (11 Notizbücher)
  1. Word-Vektor mit CBOW-Beispiel-Softmax
  2. Wortvektor unter Verwendung der CBOW-Rauschkontrastschätzung
  3. Word-Vektor mit Skipgram-Beispiel Softmax
  4. Wortvektor unter Verwendung der Kontrastschätzung des Skipgram-Rauschens
  5. Überwacht eingebettet
  6. Triplettverlust + LSTM
  7. LSTM Auto-Encoder
  8. Batch-All-Triplett-Verlust-LSTM
  9. Schnelltext
  10. ELMO (biLM)
  11. Triplettverlust + BERT

Visualisierung

Vollständige Liste (4 Notizbücher)
  1. Achtung Heatmap auf Bahdanau Achtung
  2. Achtung-Heatmap auf Luong Achtung
  3. BERT Achtung, https://github.com/hsm207/bert_attn_viz
  4. XLNET Aufmerksamkeit

Alt-zu-Jung-Vocoder

Basierend auf dem Sprachdatensatz von Toronto trainiert.

Vollständige Liste (1 Notizbücher)
  1. Erweitertes CNN

Aufmerksamkeit

Vollständige Liste (8 Notizbücher)
  1. Bahdanau
  2. Luong
  3. Hierarchisch
  4. Zusatzstoff
  5. Weich
  6. Aufmerksamkeit über Aufmerksamkeit
  7. Bahdanau-API
  8. Luong-API

Kein Deep-Learning

  1. Markov-Chatbot
  2. Zerlegungszusammenfassung (3 Notizbücher)
Expandieren
Zusätzliche Informationen
Ähnliche Anwendungen
Empfohlen für Sie
Ähnliche Nachrichten Alle