newspaper
End of Python 2 support
Inspiriert von Anfragen wegen seiner Einfachheit und unterstützt von lxml wegen seiner Geschwindigkeit:
„Newspaper ist eine erstaunliche Python-Bibliothek zum Extrahieren und Kuratieren von Artikeln.“ – getwittert von Kenneth Reitz, Autor der Anfragen
„Newspaper bietet Artikelextraktion im Instapaper-Stil.“ – Das Changelog
Newspaper ist eine Python3-Bibliothek ! Oder sehen Sie sich unseren veralteten und fehlerhaften Python2-Zweig an
>>> from newspaper import Article
>>> url = ' http://fox13now.com/2013/12/30/new-year-new-laws-obamacare-pot-guns-and-drones/ '
>>> article = Article(url)>>> article.download()
>>> article.html
'<!DOCTYPE HTML><html itemscope itemtype="http://...'>>> article.parse()
>>> article.authors
['Leigh Ann Caldwell', 'John Honway']
>>> article.publish_date
datetime.datetime(2013, 12, 30, 0, 0)
>>> article.text
'Washington (CNN) -- Not everyone subscribes to a New Year's resolution...'
>>> article.top_image
'http://someCDN.com/blah/blah/blah/file.png'
>>> article.movies
['http://youtube.com/path/to/link.com', ...]>>> article.nlp()
>>> article.keywords
['New Years', 'resolution', ...]
>>> article.summary
'The study shows that 93% of people ...'>>> import newspaper
>>> cnn_paper = newspaper.build( ' http://cnn.com ' )
>>> for article in cnn_paper.articles:
>>> print (article.url)
http://www.cnn.com/2013/11/27/justice/tucson-arizona-captive-girls/
http://www.cnn.com/2013/12/11/us/texas-teen-dwi-wreck/index.html
...
>>> for category in cnn_paper.category_urls():
>>> print (category)
http://lifestyle.cnn.com
http://cnn.com/world
http://tech.cnn.com
...
>>> cnn_article = cnn_paper.articles[ 0 ]
>>> cnn_article.download()
>>> cnn_article.parse()
>>> cnn_article.nlp()
...>>> from newspaper import fulltext
>>> html = requests.get( ... ).text
>>> text = fulltext(html)Zeitungen können Sprachen nahtlos extrahieren und erkennen. Wenn keine Sprache angegeben ist, versucht Newspaper, eine Sprache automatisch zu erkennen.
>>> from newspaper import Article
>>> url = ' http://www.bbc.co.uk/zhongwen/simp/chinese_news/2012/12/121210_hongkong_politics.shtml '
>>> a = Article(url, language = ' zh ' ) # Chinese
>>> a.download()
>>> a.parse()
>>> print (a.text[: 150 ])
香港行政长官梁振英在各方压力下就其大宅的违章建
筑（僭建）问题到立法会接受质询，并向香港民众道歉。
梁振英在星期二（12月10日）的答问大会开始之际
在其演说中道歉，但强调他在违章建筑问题上没有隐瞒的
意图和动机。 一些亲北京阵营议员欢迎梁振英道歉，
且认为应能获得香港民众接受，但这些议员也质问梁振英有
>>> print (a.title)
港特首梁振英就住宅违建事件道歉Wenn Sie sicher sind, dass eine gesamte Nachrichtenquelle in einer Sprache vorliegt, verwenden Sie dieselbe API :)
>>> import newspaper
>>> sina_paper = newspaper.build( ' http://www.sina.com.cn/ ' , language = ' zh ' )
>>> for category in sina_paper.category_urls():
>>> print (category)
http://health.sina.com.cn
http://eladies.sina.com.cn
http://english.sina.com
...
>>> article = sina_paper.articles[ 0 ]
>>> article.download()
>>> article.parse()
>>> print (article.text)
新浪武汉汽车综合 随着汽车市场的日趋成熟，
传统的“集全家之力抱得爱车归”的全额购车模式已然过时，
另一种轻松的新兴 车模式――金融购车正逐步成为时下消费者购
买爱车最为时尚的消费理念，他们认为，这种新颖的购车
模式既能在短期内
...
>>> print (article.title)
两年双免0手续0利率 科鲁兹掀背金融轻松购_武汉车市_武汉汽
车网_新浪汽车_新浪网Es dauert nur einen Klick
Vollständige und detaillierte Anleitungen zur Verwendung von Zeitungspapier finden Sie in The Docs.
Möchten Sie eine neue Sprache für uns hinzufügen? Siehe: Dokumente – Hinzufügen neuer Sprachen
>>> import newspaper
>>> newspaper.languages()
Your available languages are:
input code full name
ar Arabic
be Belarusian
bg Bulgarian
da Danish
de German
el Greek
en English
es Spanish
et Estonian
fa Persian
fi Finnish
fr French
he Hebrew
hi Hindi
hr Croatian
hu Hungarian
id Indonesian
it Italian
ja Japanese
ko Korean
lt Lithuanian
mk Macedonian
nb Norwegian (Bokmål)
nl Dutch
no Norwegian
pl Polish
pt Portuguese
ro Romanian
ru Russian
sl Slovenian
sr Serbian
sv Swedish
sw Swahili
th Thai
tr Turkish
uk Ukrainian
vi Vietnamese
zh Chinese Führen Sie ✅ pip3 install newspaper3k ✅ aus
NICHT ⛔ pip3 install newspaper ⛔
Auf Python3 müssen Sie newspaper3k installieren, nicht newspaper . newspaper ist unsere Python2-Bibliothek. Obwohl die Installation von Zeitung mit Pip einfach ist, werden Sie auf behebbare Probleme stoßen, wenn Sie versuchen, auf Ubuntu zu installieren.
Wenn Sie Debian/Ubuntu verwenden , installieren Sie es wie folgt:
Install pip3 Befehl, der zum Installieren newspaper3k Pakets erforderlich ist:
$ sudo apt-get install python3-pip
Python-Entwicklungsversion, benötigt für Python.h:
$ sudo apt-get install python-dev
lxml-Anforderungen:
$ sudo apt-get install libxml2-dev libxslt-dev
Damit PIL .jpg-Bilder erkennt:
$ sudo apt-get install libjpeg-dev zlib1g-dev libpng12-dev
HINWEIS: Wenn bei der Installation libpng12-dev Probleme auftreten, versuchen Sie, libpng-dev zu installieren.
Laden Sie NLP-bezogene Korpora herunter:
$ Curl https://raw.githubusercontent.com/codelucas/newspaper/master/download_corpora.py | Python3
Installieren Sie die Distribution per pip:
$ pip3 Zeitung3k installieren
Wenn Sie OSX verwenden , installieren Sie es wie folgt. Sie können sowohl Homebrew als auch Macports verwenden:
$ brew installiere libxml2 libxslt $ brew install libtiff libjpeg webp little-cms2 $ pip3 Zeitung3k installieren $ Curl https://raw.githubusercontent.com/codelucas/newspaper/master/download_corpora.py | Python3
Ansonsten installieren Sie es wie folgt:
HINWEIS: Sie müssen höchstwahrscheinlich weiterhin die folgenden Bibliotheken über Ihren Paketmanager installieren
libjpeg-dev zlib1g-dev libpng12-devlibxml2-dev libxslt-devpython-dev$ pip3 Zeitung3k installieren $ Curl https://raw.githubusercontent.com/codelucas/newspaper/master/download_corpora.py | Python3
Ihre Spenden werden sehr geschätzt! Sie geben mir die Möglichkeit, mehr an diesem Projekt zu arbeiten und mich um Dinge wie das Hinzufügen neuer Funktionen, die Unterstützung bei der Fehlerbehebung und die Behebung von Problemen mit der Bibliothek zu kümmern.
Wenn Sie einen Beitrag zum Zeitungsprojekt leisten und es hacken möchten, können Sie gerne lokal eine Entwicklungsversion dieses Repositorys klonen:
Git-Klon git://github.com/codelucas/newspaper.git
Sobald Sie eine Kopie der Quelle haben, können Sie sie in Ihr Python-Paket einbetten oder ganz einfach in Ihre Site-Pakete installieren:
$ pip3 install -r Anforderungen.txt $ python3 setup.py installieren
Probieren Sie gerne unsere Testsuite aus, alles ist verspottet!:
$ python3 tests/unit_tests.py
Planen Sie eine Optimierung unseres Volltextalgorithmus? Fügen Sie den fulltext hinzu:
$ python3 tests/unit_tests.py Volltext
Sehen Sie sich hier eine funktionierende Online-Demo an: http://newspaper-demo.herokuapp.com
Dies ist eine weitere funktionierende Online-Demo: http://newspaper.chinazt.cc/
Verfasst und gepflegt von Lucas Ou-Yang.
Parse.ly hat einige Arbeiten an Zeitungen gesponsert, die sich speziell auf die automatische Extraktion konzentrierten.
Zeitung verwendet viel Parsing-Code von Python-Goose. Sehen Sie sich hier ihre Lizenz an.
Bitte senden Sie mir gerne eine E-Mail und kontaktieren Sie mich, wenn Sie auf Probleme stoßen oder einfach nur über die Zukunft dieser Bibliothek und die Nachrichtenextraktion im Allgemeinen sprechen möchten!
