localwriter
v0.0.6
Erwägen Sie eine Spende zur Unterstützung der Entwicklung: https://ko-fi.com/johnbalis
Dies ist eine Libreoffice-Writer-Erweiterung, die eine generative Inline-Bearbeitung mit lokaler Inferenz ermöglicht. Es kann mit jedem von text-generation-webui unterstützten Sprachmodell verwendet werden.
Diese Erweiterung fügt LibreOffice Writer zwei leistungsstarke Befehle hinzu:
Verwendet ein Sprachmodell, um vorherzusagen, was nach dem ausgewählten Text kommt. Es gibt viele Möglichkeiten, dies zu nutzen.
Beispiele für Anwendungsfälle hierfür sind das Schreiben einer Geschichte oder einer E-Mail aufgrund einer bestimmten Aufforderung, das Hinzufügen zusätzlicher möglicher Artikel zu einer Einkaufsliste oder das Zusammenfassen des ausgewählten Textes.
Es erscheint ein Dialogfeld, in dem der Benutzer aufgefordert wird, Anweisungen zum Bearbeiten des ausgewählten Texts einzugeben. Anschließend wird der ausgewählte Text durch den bearbeiteten Text ersetzt.
Beispiele für Anwendungsfälle hierfür sind das Ändern des Tons einer E-Mail, das Übersetzen von Text in eine andere Sprache und das semantische Bearbeiten einer Szene in einer Geschichte.
Gehen Sie zunächst zu Tags und laden Sie die neueste Version von localwriter.oxt herunter.
Navigieren Sie in libreoffice zu „Extras“, dann zu „Erweiterungsmanager“, klicken Sie dann auf Add und suchen Sie die Datei localwriter.oxt in Ihrem Dateisystem. Sie werden aufgefordert, die Lizenz zu lesen. Anschließend sollte die Erweiterung installiert werden.
Sie müssen außerdem text-generation-webui einrichten und die lokale OpenAI-API aktivieren (beachten Sie, dass dies nur bedeutet, dass text-generation-webui in diesem Modus im gleichen Format wie Open AI antwortet, die gesamte Berechnung erfolgt weiterhin auf Ihrem Computer !). Sie können jedes beliebige Modell verwenden, aber ich würde openchat3.5 empfehlen, wenn Sie kein bestimmtes Modell im Sinn haben und nur 8 Gigabyte VRAM haben. Sobald die API im OpenAI-Stil auf dem Localhost-Port 5000 ausgeführt wird, sollte Localwriter ohne zusätzliche Schritte funktionieren. Wenn Sie Ollama als Backend verwenden, müssen Sie das von Ihnen verwendete model in den Einstellungen angeben und wahrscheinlich die Endpunkt-URL/den Endpunkt auf die Standardeinstellung von Ollama setzen, nämlich http://127.0.0.1:11434 .
„Auswahl erweitern“ ist standardmäßig an Strg + Q gebunden, und „Auswahl bearbeiten“ ist standardmäßig an Strg + E gebunden.
In den Einstellungen können Sie die maximale Anzahl zusätzlicher Token für die Erweiterungsauswahl und die maximale Anzahl zusätzlicher Token (über der Anzahl der Buchstaben in der ursprünglichen Auswahl) für die Bearbeitungsauswahl festlegen. Sie können die „Systemaufforderung“ zum Bearbeiten der Auswahl und zum Erweitern der Auswahl in den Einstellungen auch individuell festlegen. Diese Aufforderung wird bei jedem dieser Befehle immer unsichtbar angehängt, bevor die Auswahl aus Ihrem Dokument an das Sprachmodell gesendet wird. Wenn Sie beispielsweise einen bestimmten Schreibstil verwenden möchten, können Sie in der Eingabeaufforderung des erweiterten Auswahlsystems eine Probe Ihres Schreibens zusammen mit der Anweisung platzieren, immer in einem ähnlichen Stil zu schreiben.
(Siehe License.txt für den vollständigen Lizenztext)
Sofern im Quellcode nicht anders angegeben, wird diese Software mit einer MPL 2.0-Lizenz bereitgestellt.
Der Code, der nicht mit einer MPL2.0-Lizenz veröffentlicht wurde, wird unter den folgenden Bedingungen veröffentlicht. Lizenz: Creative Commons Attribution-ShareAlike 3.0 Unported License, Lizenz: The Document Foundation https://creativecommons.org/licenses/by-sa/3.0/
Eine große Menge Code ist aus dem folgenden MPL2.0-lizenzierten Code der Document Foundation abgeleitet: https://gerrit.libreoffice.org/c/core/+/159938
MPL2.0
Copyright (c) 2024 John Balis
