Simplifie le processus de création et de gestion des workflows LLM en tant que solution auto-hébergée.
Avertissement
Cette application est actuellement à l'état Alpha et sous développement actif. Veuillez noter que l'API et les fonctionnalités peuvent changer à tout moment.
PromptMage est un framework Python pour simplifier le développement d'applications complexes en plusieurs étapes basées sur les LLM. Il est conçu pour offrir une interface intuitive qui simplifie le processus de création et de gestion des flux de travail LLM en tant que solution auto-hébergée. PromptMage facilite les tests et la comparaison rapides et intègre les fonctionnalités de contrôle de version pour aider les utilisateurs à suivre le développement de leurs invites. Convient à la fois aux petites équipes et aux grandes entreprises, PromptMage cherche à améliorer la productivité et à favoriser l'utilisation pratique de la technologie LLM.
L'approche avec Promptmage est de fournir une solution pragmatique qui comble l'écart actuel dans la gestion du flux de travail LLM. Nous visons à autonomiser les développeurs, les chercheurs et les organisations en rendant la technologie LLM plus accessible et gérable, soutenant ainsi la prochaine vague d'innovations sur l'IA.
Entrez la procédure pas à pas pour voir ce que vous pouvez faire avec Invitemage.
Pour installer PromptMage, exécutez la commande suivante:
pip install promptmage
Pour utiliser PromptMage, exécutez la commande suivante:
promptmage run < path-to-flow >
Cela démarrera le serveur d'invite local et exécutera le flux sur le chemin donné. Vous pouvez désormais accéder à l'interface PromptMage sur http://localhost:8000/gui/
.
Pour exécuter le serveur backend distant, exécutez la commande suivante:
promptmage serve --port 8021
Pour le faire fonctionner avec votre script d'invite, vous devez ajouter les lignes suivantes à votre script:
from promptmage import PromptMage
mage = PromptMage ( remote = "http://localhost:8021" ) # or the URL of your remote server
Jetez un œil aux exemples dans le dossier Exemples pour voir comment utiliser PromptMage dans votre application ou votre flux de travail.
Vous pouvez trouver un exemple d'utilisation avec Docker ici: exemple docker.
Pour développer l'invite, consultez le fichier Development.md.
Nous accueillons les contributions de la communauté!
Si vous êtes intéressé à améliorer l'invite, vous pouvez contribuer de la manière suivante:
Pour assurer un processus de contribution en douceur, veuillez suivre ces directives:
Assurez-vous de vérifier si votre problème ou votre PR a déjà été corrigé ou implémenté avant d'en ouvrir un nouveau!
Ce projet est autorisé en vertu de la licence MIT - voir le fichier Licence.md pour plus de détails. Développement original de Tobias Sterbak. Copyright (C) 2024.
Pour toute demande ou plus d'informations, n'hésitez pas à contacter à [email protected].
Ce projet a été soutenu par