localwriter

localwriter: uma extensão do LibreOffice Writer para IA generativa local

Considere doar para apoiar o desenvolvimento: https://ko-fi.com/johnbalis

Sobre

Esta é uma extensão do libreoffice Writer para permitir edição generativa in-line com inferência local. Ele pode ser usado com qualquer modelo de linguagem suportado pelo webui de geração de texto.

Esta extensão adiciona dois comandos poderosos ao escritor do libreoffice:

Estender seleção

Usa um modelo de linguagem para prever o que vem depois do texto selecionado. Existem muitas maneiras de usar isso.

Alguns exemplos de casos de uso para isso incluem escrever uma história ou um e-mail com uma solicitação específica, adicionar itens adicionais possíveis a uma lista de compras ou resumir o texto selecionado.

Editar seleção

Uma caixa de diálogo aparece solicitando instruções ao usuário sobre como editar o texto selecionado e, em seguida, o texto selecionado é substituído pelo texto editado.

Alguns exemplos de casos de uso incluem alterar o tom de um e-mail, traduzir texto para um idioma diferente e editar semanticamente uma cena em uma história.

Configurar

Primeiro vá para tags e baixe a versão mais recente de localwriter.oxt .

No libreoffice, navegue até Ferramentas, depois Gerenciador de extensões, clique em Add e encontre o arquivo localwriter.oxt em seu sistema de arquivos. Você será direcionado para ler a licença e a extensão deverá ser instalada.

Você também precisará configurar text-generation-webui e ativar a API openai local (observe que isso significa apenas que neste modo text-generation-webui responderá no mesmo formato que a IA aberta, toda a computação ainda acontece no seu computador !). Você pode usar o modelo que quiser, mas eu recomendo o openchat3.5 se você não tiver um modelo específico em mente e tiver apenas 8 gigabytes de VRAM. Depois que a API estilo OpenAI estiver em execução na porta 5000 do host local, o localwriter deverá funcionar sem etapas adicionais. Se você estiver usando o Ollama como back-end, precisará especificar o model que está usando nas configurações e provavelmente definir o URL/ponto do endpoint como o padrão do Ollama, que é http://127.0.0.1:11434 .

Teclas de atalho

Estender seleção está vinculado a ctrl + q por padrão, e Editar seleção está vinculado a ctrl + e por padrão.

Configurações

Nas configurações, você pode definir o número máximo de tokens adicionais para seleção estendida e o número máximo de tokens adicionais (acima do número de letras na seleção original) para seleção de edição. Você também pode definir individualmente o "prompt do sistema" para editar a seleção e estender a seleção nas configurações, e esse prompt sempre será anexado de forma invisível antes que a seleção do seu documento seja enviada para o modelo de idioma com cada um desses comandos. Por exemplo, se você quiser usar um estilo de escrita específico, você pode colocar uma amostra de sua escrita no prompt do sistema de seleção estendida, junto com uma diretiva para sempre escrever em um estilo semelhante.

Licença

(Veja License.txt para o texto completo da licença)

Exceto quando indicado de outra forma no código-fonte, este software é fornecido com uma licença MPL 2.0.

O código não liberado com licença MPL2.0 é liberado sob os seguintes termos. Licença: Creative Commons Attribution-ShareAlike 3.0 Licença não portada, Licença: The Document Foundation https://creativecommons.org/licenses/by-sa/3.0/

Uma grande quantidade de código é derivada do seguinte código licenciado MPL2.0 da Document Foundation https://gerrit.libreoffice.org/c/core/+/159938

MPL2.0

Direitos autorais (c) 2024 John Balis