Flux rapide

Bienvenue à nous rejoindre pour améliorer le flux rapide en participant à des discussions, en ouvrant des numéros et en soumettant des PR.

Prompt flow est une suite d'outils de développement conçus pour rationaliser le cycle de développement de bout en bout des applications d'IA basées sur LLM, depuis l'idéation, le prototypage, les tests, l'évaluation jusqu'au déploiement et à la surveillance en production. Il facilite grandement l'ingénierie rapide et vous permet de créer des applications LLM avec une qualité de production.

Avec un flux rapide, vous serez en mesure de :

Créer et développer de manière itérative un flux
- Créez des flux exécutables qui relient les LLM, les invites, le code Python et d'autres outils.
- Déboguez et itérez vos flux, en particulier en traçant facilement les interactions avec les LLM.
Évaluer la qualité et les performances du flux
- Évaluez la qualité et les performances de votre flux avec des ensembles de données plus volumineux.
- Intégrez les tests et l'évaluation dans votre système CI/CD pour garantir la qualité de votre flux.
Cycle de développement rationalisé pour la production
- Déployez votre flux sur la plateforme de service que vous choisissez ou intégrez facilement dans la base de code de votre application.
- (Facultatif mais fortement recommandé) Collaborez avec votre équipe en tirant parti de la version cloud de Prompt Flow dans Azure AI.

Installation

Pour démarrer rapidement, vous pouvez utiliser un environnement de développement prédéfini. Cliquez sur le bouton ci-dessous pour ouvrir le dépôt dans les espaces de codes GitHub, puis poursuivez le fichier Lisez-moi !

Si vous souhaitez démarrer dans votre environnement local, installez d'abord les packages :

Assurez-vous de disposer d'un environnement python, python>=3.9, <=3.11 est recommandé.

pip install promptflow promptflow-tools

Démarrage rapide ⚡

Créez un chatbot avec un flux d'invite

Exécutez la commande pour lancer un flux d'invite à partir d'un modèle de discussion, elle crée un dossier nommé my_chatbot et génère les fichiers requis à l'intérieur :

pf flow init --flow ./my_chatbot --type chat

Configurer une connexion pour votre clé API

Pour la clé OpenAI, établissez une connexion en exécutant la commande, en utilisant le fichier openai.yaml dans le dossier my_chatbot , qui stocke votre clé OpenAI (remplacez les clés et le nom par --set pour éviter les modifications du fichier yaml) :

pf connection create --file ./my_chatbot/openai.yaml --set api_key= < your_api_key > --name open_ai_connection

Pour la clé Azure OpenAI, établissez la connexion en exécutant la commande à l'aide du fichier azure_openai.yaml :

pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key= < your_api_key > api_base= < your_api_base > --name open_ai_connection

Discutez avec votre flux

Dans le dossier my_chatbot , il y a un fichier flow.dag.yaml qui décrit le flux, y compris les entrées/sorties, les nœuds, la connexion et le modèle LLM, etc.

Notez que dans le nœud chat , nous utilisons une connexion nommée open_ai_connection (spécifiée dans le champ connection ) et le modèle gpt-35-turbo (spécifié dans le champ deployment_name ). Le nom de déploiement déposé doit spécifier le modèle OpenAI ou la ressource de déploiement Azure OpenAI.

Interagissez avec votre chatbot en exécutant : (appuyez sur Ctrl + C pour terminer la session)

pf flow test --flow ./my_chatbot --interactive

Valeur fondamentale : assurer la « Haute Qualité » du prototype à la production

Explorez notre didacticiel de 15 minutes qui vous guide à travers les réglages rapides ➡ les tests par lots ➡ l'évaluation, tous conçus pour garantir une haute qualité prête pour la production.

Prochaine étape ! Continuer avec le tutoriel ? section pour approfondir le flux rapide.

Tutoriel ?‍♂️

Prompt flow est un outil conçu pour créer des applications LLM de haute qualité . Le processus de développement dans prompt flow suit ces étapes : développer un flux, améliorer la qualité du flux, déployer le flux en production.

Développez vos propres applications LLM

Extension de code VS

Nous proposons également une extension VS Code (un concepteur de flux) pour une expérience de développement de flux interactif avec interface utilisateur.

vsc

Vous pouvez l'installer à partir du marché Visualstudio.

Approfondissement du développement des flux

Premiers pas avec le flux d'invite : un guide étape par étape pour appeler votre première exécution de flux.

Apprendre des cas d’utilisation

Tutoriel : Chat avec PDF : Un didacticiel de bout en bout sur la façon de créer une application de chat de haute qualité avec un flux rapide, y compris le développement de flux et l'évaluation avec des métriques.

D’autres exemples peuvent être trouvés ici. Nous apprécions les contributions de nouveaux cas d’utilisation !

Configuration pour les contributeurs

Si vous souhaitez contribuer, veuillez commencer par notre guide de configuration des développeurs : dev_setup.md.

Prochaine étape ! Continuer avec la page Contribuer ? section pour contribuer à un flux rapide.

Contribuer

Ce projet accueille les contributions et suggestions. La plupart des contributions nécessitent que vous acceptiez un contrat de licence de contributeur (CLA) déclarant que vous avez le droit de nous accorder, et que vous nous accordez effectivement, le droit d'utiliser votre contribution. Pour plus de détails, visitez https://cla.opensource.microsoft.com.

Lorsque vous soumettez une pull request, un robot CLA déterminera automatiquement si vous devez fournir un CLA et décorera le PR de manière appropriée (par exemple, vérification du statut, commentaire). Suivez simplement les instructions fournies par le bot. Vous n’aurez besoin de le faire qu’une seule fois pour tous les dépôts utilisant notre CLA.

Ce projet a adopté le code de conduite Microsoft Open Source. Pour plus d’informations, consultez la FAQ sur le code de conduite ou contactez [email protected] pour toute question ou commentaire supplémentaire.

Marques déposées

Ce projet peut contenir des marques ou des logos pour des projets, des produits ou des services. L'utilisation autorisée des marques ou logos Microsoft est soumise et doit respecter les directives relatives aux marques et aux marques de Microsoft. L'utilisation des marques ou logos Microsoft dans les versions modifiées de ce projet ne doit pas prêter à confusion ni impliquer le parrainage de Microsoft. Toute utilisation de marques ou de logos tiers est soumise aux politiques de ces tiers.

Code de conduite

Ce projet a adopté le code de conduite Microsoft Open Source. Pour plus d’informations, consultez la FAQ sur le code de conduite ou contactez [email protected] pour toute question ou commentaire supplémentaire.

Collecte de données

Le logiciel peut collecter des informations sur vous et votre utilisation du logiciel et les envoyer à Microsoft s'il est configuré pour activer la télémétrie. Microsoft peut utiliser ces informations pour fournir des services et améliorer nos produits et services. Vous pouvez activer la télémétrie comme décrit dans le référentiel. Certaines fonctionnalités du logiciel peuvent également vous permettre, à vous et à Microsoft, de collecter des données auprès des utilisateurs de vos applications. Si vous utilisez ces fonctionnalités, vous devez vous conformer à la loi applicable, notamment en fournissant des notifications appropriées aux utilisateurs de vos applications ainsi qu'une copie de la déclaration de confidentialité de Microsoft. Notre déclaration de confidentialité se trouve à l'adresse https://go.microsoft.com/fwlink/?LinkID=824704. Vous pouvez en savoir plus sur la collecte et l'utilisation des données dans la documentation d'aide et dans notre déclaration de confidentialité. Votre utilisation du logiciel constitue votre consentement à ces pratiques.