Simplifica o processo de criação e gerenciamento de fluxos de trabalho LLM como uma solução auto-hospedada.
Aviso
Este aplicativo está atualmente no estado alfa e sob desenvolvimento ativo. Esteja ciente de que a API e os recursos podem mudar a qualquer momento.
O PromptMage é uma estrutura Python para simplificar o desenvolvimento de aplicativos complexos e de várias etapas com base no LLMS. Ele foi projetado para oferecer uma interface intuitiva que simplifica o processo de criação e gerenciamento de fluxos de trabalho LLM como uma solução auto-hospedada. O PromptMage facilita testes e comparação rápidos e incorpora recursos de controle de versão para ajudar os usuários a rastrear o desenvolvimento de seus avisos. Adequado para equipes pequenas e grandes empresas, o PromptMage busca melhorar a produtividade e promover o uso prático da tecnologia LLM.
A abordagem com o PromptMage é fornecer uma solução pragmática que preenche a lacuna atual no gerenciamento do fluxo de trabalho LLM. Nosso objetivo é capacitar desenvolvedores, pesquisadores e organizações, tornando a tecnologia LLM mais acessível e gerenciável, apoiando assim a próxima onda de inovações de IA.
Pegue o passo a passo para ver o que você pode fazer com o PromptMage.
Para instalar o PromptMage, execute o seguinte comando:
pip install promptmage
Para usar o PromptMage, execute o seguinte comando:
promptmage run < path-to-flow >
Isso iniciará o servidor PromptMage local e executará o fluxo no caminho fornecido. Agora você pode acessar a interface do PromptMage em http://localhost:8000/gui/
.
Para executar o servidor de back -end remoto, execute o seguinte comando:
promptmage serve --port 8021
Para fazê -lo funcionar com o seu script de prompt, você deve adicionar as seguintes linhas ao seu script:
from promptmage import PromptMage
mage = PromptMage ( remote = "http://localhost:8021" ) # or the URL of your remote server
Dê uma olhada nos exemplos na pasta Exemplos para ver como usar o PromptMage em seu aplicativo ou fluxo de trabalho.
Você pode encontrar um exemplo de uso com o Docker aqui: exemplo do docker.
Para desenvolver o PromptMage, consulte o arquivo de desenvolvimento.md.
Congratulamo -nos com contribuições da comunidade!
Se você estiver interessado em melhorar o PromptMage, poderá contribuir das seguintes maneiras:
Para garantir um processo de contribuição suave, siga estas diretrizes:
Verifique se o seu problema ou PR já foi corrigido ou implementado antes de abrir um novo!
Este projeto está licenciado sob a licença do MIT - consulte o arquivo License.md para obter detalhes. Desenvolvimento original de Tobias Sterbak. Copyright (C) 2024.
Para qualquer pergunta ou mais informações, sinta -se à vontade para entrar em contato com [email protected].
Este projeto foi apoiado por