localwriter
v0.0.6
開発をサポートするために寄付を検討してください: https://ko-fi.com/johnbalis
これは、ローカル推論によるインライン生成編集を可能にする libreoffice ライター拡張機能です。 text-generation-webui でサポートされている任意の言語モデルで使用できます。
この拡張機能は、libreoffice Writer に 2 つの強力なコマンドを追加します。
言語モデルを使用して、選択したテキストの後に何が来るかを予測します。これを使用する方法はたくさんあります。
このユースケースの例としては、特定のプロンプトに基づいてストーリーや電子メールを書く、食料品リストに追加の可能性のあるアイテムを追加する、または選択したテキストを要約するなどが挙げられます。
ダイアログ ボックスが表示され、選択したテキストの編集方法についての指示がユーザーに求められます。その後、選択したテキストが編集されたテキストに置き換えられます。
このユースケースの例には、電子メールの口調の変更、テキストの別の言語への翻訳、ストーリー内のシーンの意味編集などがあります。
まず、タグに移動し、 localwriter.oxtの最新バージョンをダウンロードします。
libreoffice で、[ツール]、[拡張機能マネージャー] の順に移動し、 Addをクリックして、ファイル システム内でlocalwriter.oxtファイルを見つけます。ライセンスを読むよう指示されたら、拡張機能をインストールする必要があります。
また、 text-generation-webuiセットアップし、ローカルの openai API を有効にする必要もあります (これは、このモードではtext-generation-webuiがオープン AI と同じ形式で応答することを意味するだけであり、すべての計算は依然としてコンピューター上で行われることに注意してください) !)。好きなモデルを使用できますが、特定のモデルを念頭に置いておらず、VRAM が 8 GB しかない場合は、openchat3.5 をお勧めします。 OpenAI スタイルの API がローカルホストのポート 5000 で実行されると、追加の手順なしで localwriter が動作するはずです。 Ollama をバックエンドとして使用している場合は、設定で使用しているmodelを指定する必要があり、エンドポイントの URL/ポイントを Ollama のデフォルトであるhttp://127.0.0.1:11434に設定する可能性があります。
デフォルトでは、「選択範囲の拡張」は ctrl + q にバインドされ、「選択範囲の編集」はデフォルトで ctrl + e にバインドされます。
設定では、選択範囲を拡張する場合の追加トークンの最大数と、選択範囲を編集する場合の追加トークンの最大数 (元の選択範囲の文字数を超える) を設定できます。また、設定で選択範囲の編集と選択範囲の拡張のための「システム プロンプト」を個別に設定することもできます。このプロンプトは、これらの各コマンドでドキュメントからの選択内容が言語モデルに送信される前に、常に目に見えないように追加されます。たとえば、特定の書き方を使用したい場合は、拡張選択システム プロンプトに書き方のサンプルを配置し、常に同じスタイルで書くように指示することができます。
(ライセンスの全文については、License.txt を参照してください)
ソース コードに別途記載がある場合を除き、このソフトウェアには MPL 2.0 ライセンスが付属しています。
MPL2.0 ライセンスでリリースされていないコードは、次の条件に従ってリリースされます。ライセンス: Creative Commons Attribution-ShareAlike 3.0 Unported License、ライセンス: The Document Foundation https://creativecommons.org/licenses/by-sa/3.0/
大量のコードは、Document Foundation https://gerrit.libreoffice.org/c/core/+/159938 の次の MPL2.0 ライセンス コードから派生しています。
MPL2.0
著作権 (c) 2024 ジョン・バリス
