cape webservices

Cape-Webservices

Einstiegspunkt für alle Backend-Cape-Webservices.

Die Frontend-Demo finden Sie hier (funktioniert nur, wenn Sie bereits ein Backend gestartet haben).

Überblick über Kap

Cape ist eine Suite von Open-Source-Bibliotheken zur Verwaltung eines Frage-Antwort-Modells, das Fragen durch automatisches „Lesen“ von Dokumenten beantwortet. Es basiert auf modernsten maschinellen Lesemodellen, die auf riesigen Datensätzen trainiert wurden, und umfasst mehrere Mechanismen, um die Verwendung zu vereinfachen und basierend auf Benutzerfeedback zu verbessern. Es ist portabel konzipiert, funktioniert also auf einem einzelnen Laptop oder auf einem Cluster paralleler Maschinen, um die Berechnung zu beschleunigen, und ist Open Source-freundlich, sodass es auf allen Erfahrungsstufen verwendet werden kann.

Es ermöglicht Benutzern dies

• Dokumente hochladen und daraus extrahierte Fragen beantworten,
• Aktualisieren Sie Modelle, indem Sie eine „gespeicherte Antwort“, also eine vordefinierte Antwort, hinzufügen.
• Verwalten Sie Benutzer, Dokumente und gespeicherte Antworten.

Es gibt mehrere Möglichkeiten, Cape zu verwenden:

• Als Python-Bibliothek:

 from cape_responder.responder_core import Responder
 Responder.get_answers_from_documents('my-token','How easy is Cape to use', text ="Cape is an open source large-scale question answering system and is super easy to use!")

• Als Python-Dienst: python3 -m cape_webservices.run
• Als eigenständiger Docker-Container: docker run -p 5050:5050 bloomsburyai/cape
• Als App mit UI
• Als verteilter Cluster
• Als Slack-Bot (Video hier, weitere Infos hier)
• AI-in-the-Middle-E-Mail-Antwortsystem (Video hier, weitere Informationen hier)
• Als Facebook-Bot (mehr Infos hier)
• Als Hangouts-Bot (mehr Infos hier)

Schnellstart

Mindestanforderungen

Wir empfehlen mindestens 3 GB RAM und mindestens 2 moderne CPU-Kerne (4, wenn virtuell). Wenn Sie Docker verwenden, stellen Sie sicher, dass Sie die Speicherressourcengrenzen in den Docker-Einstellungen erhöhen.

Eigenständige Webanwendung mit Docker

Sie können eine eigenständige Version der Webanwendung ausführen, die ein Verwaltungs-Dashboard enthält. Aktualisieren Sie nach der Installation von Docker das Cape-Image und führen Sie es aus:

docker pull bloomsburyai/cape && docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape

Dadurch werden sowohl die Backend- als auch die Frontend-Webdienste gestartet. Standardmäßig werden auch Tunnel für beide erstellt und die öffentlichen URLs ausgegeben:

• Um das Frontend zu verwenden, navigieren Sie einfach zur angegebenen URL. Sie sieht etwa so aus: **https:// RANDOM_STRING_HERE .ngrok.io?configuration={"api":{"backendURL":"https:// RANDOM_STRING_HERE .ngrok .io:5050","timeout":"15000"}}
• Um das Backend zu verwenden, können Sie unseren Client verwenden (Dokumentation hier) oder Ihren eigenen Client erstellen, indem Sie unsere HTTP-API integrieren (Dokumentation hier)).

Kurzanleitung mit Docker

1. Rufen Sie die neueste Version des Docker-Images ab (das Herunterladen aller Abhängigkeiten und eines Maschinenlesemodells dauert einige Augenblicke): docker pull bloomsburyai/cape

2. Führen Sie den Docker-Container aus und starten Sie darin eine IPython-Konsole mit dem folgenden Befehl: docker run -ti -p 5050:5050 -p 5051:5051 bloomsburyai/cape ipython3

3. Responder importieren: from cape_responder.responder_core import Responder

4. Stellen Sie eine Frage, speichern Sie die Antwort (eine Liste von Antworten) und zeigen Sie die erste Antwort an mit: response = Responder.get_answers_from_documents('my-token','How easy is Cape to use?', text="Cape is an open source large-scale question answering system and is super easy to use!"); print(response[0]['answerText'])

5. Wenn Sie mehr darüber erfahren möchten, wie die Antwort aussieht, zeigen Sie die vollständige Antwort mit folgendem Befehl an: print(response)

Installation ohne Docker

Um Cape nativ auf einem Linux-System zu installieren, werfen Sie einen Blick auf „deployment/Dockerfile“.

Struktur

Zusammenfassend ist Cape wie folgt organisiert:

• Der Cape-Webservices-Backend-Server, der die vollständige HTTP-API bereitstellt, hängt von Folgendem ab:
  • cape-responder Einzigartige High-Level-Schnittstelle zum Verteilen und Erstellen maschineller Leseaufgaben, abhängig von:
    • cape-machine-reader Modul zur Integration maschineller Lesemodelle
    • cape-document-qa Integration eines hochmodernen maschinellen Lesemodells mit Trainings- und Bewertungsskripten
  • cape-document-manager Schnittstelle zum Verwalten von Dokumenten und Anmerkungen unter Verwendung von SQLite als Beispielspeicher-Backend, abhängig von:
    • cape-splitter Paket zum Aufteilen von Dokumenten in Teile, ohne Sätze zu unterbrechen
  • cape-userdb, Paket zum Verwalten und Speichern von Benutzern und Konfigurationen
  • cape-api-helpers, HTTP-API-Dienstprogrammfunktionen
  • Optionale Plugins:
    • cape-slack-plugin, Stellt Webservice-Endpunkte zum Erstellen von Slack-Bots bereit
    • cape-facebook-plugin, Stellt Webservice-Endpunkte für die Integration mit Facebook Messenger bereit
    • cape-hangouts-plugin, stellt Webservice-Endpunkte zum Erstellen von Hangouts-Bots bereit
    • cape-email-plugin, Bietet Unterstützung für den Empfang und die Beantwortung von Fragen per E-Mail
• cape-frontend Frontend-Server (nicht im Diagramm) verwendet die Backend-Server-API, um den Benutzern ein Verwaltungs-Dashboard bereitzustellen