text_summurization_abstractive_methods herunterladen - text_summurization_abstractive

text_summurization_abstractive_methods

AI-Quellcode

1.0.0

Herunterladen

Modelle zur Textzusammenfassung

Wenn Sie mich auf Arxiv unterstützen können, würde ich mich sehr freuen https://arxiv.org/auth/endorse?x=FRBB89 Danke. Dieses Repo wurde erstellt, um mehrere Implementierungen für abstrakte Ansätze zur Textzusammenfassung für verschiedene Zwecke zu sammeln Sprachen (Hindi, Amharisch, Englisch und bald auch Arabisch)

Wenn Sie dieses Projekt hilfreich fanden, denken Sie bitte darüber nach, unsere Arbeit zu zitieren, es würde mir wirklich sehr viel bedeuten

 @INPROCEEDINGS{9068171,
  author={A. M. {Zaki} and M. I. {Khalil} and H. M. {Abbas}},
  booktitle={2019 14th International Conference on Computer Engineering and Systems (ICCES)}, 
  title={Deep Architectures for Abstractive Text Summarization in Multiple Languages}, 
  year={2019},
  volume={},
  number={},
  pages={22-27},}

 @misc{zaki2020amharic,
    title={Amharic Abstractive Text Summarization},
    author={Amr M. Zaki and Mahmoud I. Khalil and Hazem M. Abbas},
    year={2020},
    eprint={2003.13721},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

Es ist so konzipiert, dass es einfach auf Google Colab in einem Notebook ausgeführt werden kann. Sie benötigen also nur eine Internetverbindung, um diese Beispiele auszuführen, ohne dass ein leistungsstarker Computer erforderlich ist. Alle Codebeispiele liegen also im Jupiter-Format vor, und Sie müssen Sie müssen keine Daten auf Ihr Gerät herunterladen, da wir diese Jupiter-Notebooks mit Google Drive verbinden

Arabisches Zusammenfassungsmodell unter Verwendung der Eckpfeiler-Implementierung (seq2seq mit bidirektionalem LSTM-Encoder und Aufmerksamkeit im Decoder) zur Zusammenfassung arabischer Nachrichten
Implementierung Ein Eckpfeiler seq2seq mit Aufmerksamkeit (unter Verwendung von bidirektionalem ltsm), drei verschiedene Modelle für diese Implementierung
Implementierung B seq2seq mit Zeigergeneratormodell
Implementierung C seq2seq mit Reinforcement Learning

Blogs

Dieses Repo wurde in einer Reihe von Blogs erklärt

Um zu verstehen, wie Sie mit dem Google Colab-Ökosystem arbeiten und es in Ihr Google Drive integrieren, kann sich dieser Blog als nützliches DeepLearning Free Ecosystem erweisen
Tutorial 1 Überblick über die verschiedenen Ansätze zur abstrakten Textzusammenfassung
Tutorial 2 So stellen Sie Text für unsere Textzusammenfassungsaufgabe dar
Tutorial 3 Was seq2seq ist und warum verwenden wir es bei der Textzusammenfassung
Tutorial 4 Mehrschichtiges bidirektionales Lstm/Gru zur Textzusammenfassung
Tutorial 5 Beam Search & Attention für Textzusammenfassung
Tutorial 6 Erstellen Sie einen Zusammenfassungstext für abstrakten Text in 94 Zeilen Tensorflow
Tutorial 7 Zeigergenerator für die Kombination abstrakter und extraktiver Methoden zur Textzusammenfassung
Tutorial 8 Bringen Sie seq2seq-Modellen bei, mithilfe von Deep Curriculum Learning aus ihren Fehlern zu lernen
Tutorial 9 Deep Reinforcement Learning (DeepRL) für abstrakte Textzusammenfassung leicht gemacht
Tutorial 10 Zusammenfassung von Hindi-Texten

Probieren Sie diese Textzusammenfassung über diese Website (eazymind) aus, mit der Sie Ihren Text zusammenfassen können

Curl-Anruf

 curl -X POST 
http://eazymind.herokuapp.com/arabic_sum/eazysum
-H 'cache-control: no-cache' 
-H 'content-type: application/x-www-form-urlencoded' 
-d "eazykey={eazymind api key}&sentence={your sentence to be summarized}"

Python-Paket (pip install eazymind) pip install eazymind

 from eazymind.nlp.eazysum import Summarizer

#---key from eazymind website---
key = "xxxxxxxxxxxxxxxxxxxxx"

#---sentence to be summarized---
sentence = """(CNN)The White House has instructed former
    White House Counsel Don McGahn not to comply with a subpoena
    for documents from House Judiciary Chairman Jerry Nadler, 
    teeing up the latest in a series of escalating oversight 
    showdowns between the Trump administration and congressional Democrats."""
    
summarizer = Summarizer(key)
print(summarizer.run(sentence))

Implementierung A (seq2seq mit Aufmerksamkeit und funktionsreicher Darstellung)

Enthält 3 verschiedene Modelle, die das Konzept des Aufbaus eines seq2seq-Netzwerks umsetzen und dabei auch Konzepte wie eine funktionsreiche Wortdarstellung hinzufügen. Diese Arbeit ist eine Fortsetzung dieser erstaunlichen Repos

Modell 1

ist eine Modifikation von David Curries https://github.com/Currie32/Text-Summarization-with-Amazon-Reviews seq2seq

Modell 2

1- Model_2/Model_2.ipynb

eine Änderung an https://github.com/dongjun-Lee/text-summarization-tensorflow

2- Model_2/Model 2-Funktionen (tf-idf, pos-Tags).ipynb

eine Modifikation von Modell 2.ipynb unter Verwendung von Konzepten von http://www.aclweb.org/anthology/K16-1028

Ergebnisse

Ein Ordner enthält die Ergebnisse beider Modelle aus Validierungstextbeispielen in einem Zaksum-Format, das alles kombiniert

blau
Rouge_1
Rouge_2
Rouge_L
rouge_be für jeden Satz und der Durchschnitt aller Sätze

Modell 3

eine Änderung an https://github.com/thomasschmied/Text_Summarization_with_Tensorflow/blob/master/summarizer_amazon_reviews.ipynb

Implementierung B (Pointer Generator seq2seq Netzwerk)

Es ist eine Fortsetzung der erstaunlichen Arbeit von https://github.com/abisee/pointer-generator https://arxiv.org/abs/1704.04368. Diese Implementierung nutzt das Konzept eines Zeigergeneratornetzwerks, um einige auftretende Probleme zu verringern mit dem normalen seq2seq-Netzwerk

Model_4_generator_.ipynb

verwendet einen Zeigergenerator mit seq2seq, wobei darauf zu achten ist, dass er mit Python2.7 erstellt wurde

zaksum_eval.ipynb

Von Python3 zur Evaluierung erstellt

Ergebnisse/Zeigergenerator

Ausgabe vom Generator (Artikel/Referenz/Zusammenfassung), die als Eingabe für zaksum_eval.ipynb verwendet wird
Ergebnis aus zaksum_eval

Ich werde weiterhin an der Implementierung des Deckungsmechanismus arbeiten, es liegt also noch viel Arbeit vor uns, wenn Gott es so will

Implementierung C (Reinforcement Learning für Sequenz zu Sequenz)

Diese Implementierung ist eine Fortsetzung der erstaunlichen Arbeit von https://github.com/yaserkl/RLSeq2Seq https://arxiv.org/abs/1805.09461

 @article{keneshloo2018deep,
 title={Deep Reinforcement Learning For Sequence to Sequence Models},
 author={Keneshloo, Yaser and Shi, Tian and Ramakrishnan, Naren and Reddy, Chandan K.},
 journal={arXiv preprint arXiv:1805.09461},
 year={2018}
}

Modell 5 RL

Dies ist eine Bibliothek zum Erstellen mehrerer Ansätze mithilfe von Reinforcement Learning mit seq2seq. Ich habe ihren Code zusammengestellt, um ihn in einem Jupiter-Notebook auszuführen und auf das für Python 2.7 erstellte Google Drive zuzugreifen