Sofortiger Fluss

Willkommen bei uns, um den schnellen Ablauf zu verbessern, indem Sie an Diskussionen teilnehmen, Probleme eröffnen und PRs einreichen.

Prompt Flow ist eine Suite von Entwicklungstools, die darauf ausgelegt sind, den End-to-End-Entwicklungszyklus von LLM-basierten KI-Anwendungen zu rationalisieren, von der Ideenfindung, Prototyping, Tests, Evaluierung bis hin zur Produktionsbereitstellung und -überwachung. Dies erleichtert das schnelle Engineering erheblich und ermöglicht Ihnen die Erstellung von LLM-Apps in Produktionsqualität.

Mit Prompt Flow können Sie:

Flow erstellen und iterativ weiterentwickeln
- Erstellen Sie ausführbare Abläufe, die LLMs, Eingabeaufforderungen, Python-Code und andere Tools miteinander verknüpfen.
- Debuggen und iterieren Sie Ihre Abläufe, insbesondere die einfache Nachverfolgung der Interaktion mit LLMs.
Bewerten Sie die Durchflussqualität und -leistung
- Bewerten Sie die Qualität und Leistung Ihres Flows anhand größerer Datensätze.
- Integrieren Sie die Tests und Auswertungen in Ihr CI/CD-System, um die Qualität Ihres Ablaufs sicherzustellen.
Optimierter Entwicklungszyklus für die Produktion
- Stellen Sie Ihren Flow auf der von Ihnen gewählten Bereitstellungsplattform bereit oder integrieren Sie ihn einfach in die Codebasis Ihrer App.
- (Optional, aber dringend empfohlen) Arbeiten Sie mit Ihrem Team zusammen, indem Sie die Cloud-Version von Prompt Flow in Azure AI nutzen.

Installation

Für einen schnellen Einstieg können Sie eine vorgefertigte Entwicklungsumgebung nutzen. Klicken Sie auf die Schaltfläche unten , um das Repo in GitHub Codespaces zu öffnen, und fahren Sie dann mit der Readme-Datei fort!

Wenn Sie in Ihrer lokalen Umgebung loslegen möchten, installieren Sie zunächst die Pakete:

Stellen Sie sicher, dass Sie über eine Python-Umgebung verfügen. python>=3.9, <=3.11 wird empfohlen.

pip install promptflow promptflow-tools

Schnellstart ⚡

Erstellen Sie einen Chatbot mit sofortigem Ablauf

Führen Sie den Befehl aus, um einen Eingabeaufforderungsfluss aus einer Chat-Vorlage zu initiieren. Er erstellt einen Ordner mit dem Namen my_chatbot und generiert darin die erforderlichen Dateien:

pf flow init --flow ./my_chatbot --type chat

Richten Sie eine Verbindung für Ihren API-Schlüssel ein

Stellen Sie für den OpenAI-Schlüssel eine Verbindung her, indem Sie den Befehl ausführen und dabei die Datei openai.yaml im Ordner my_chatbot verwenden, in der Ihr OpenAI-Schlüssel gespeichert ist (überschreiben Sie Schlüssel und Namen mit --set, um Änderungen an der Yaml-Datei zu vermeiden):

pf connection create --file ./my_chatbot/openai.yaml --set api_key= < your_api_key > --name open_ai_connection

Stellen Sie für den Azure OpenAI-Schlüssel die Verbindung her, indem Sie den Befehl ausführen und dabei die Datei azure_openai.yaml verwenden:

pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key= < your_api_key > api_base= < your_api_base > --name open_ai_connection

Chatten Sie mit Ihrem Flow

Im Ordner my_chatbot gibt es eine Datei flow.dag.yaml , die den Ablauf beschreibt, einschließlich Ein-/Ausgänge, Knoten, Verbindung und das LLM-Modell usw

Beachten Sie, dass wir im chat Knoten eine Verbindung mit dem Namen open_ai_connection (angegeben im connection ) und das gpt-35-turbo -Modell (angegeben im Feld deployment_name ) verwenden. Der abgelegte Bereitstellungsname dient zur Angabe des OpenAI-Modells oder der Azure OpenAI-Bereitstellungsressource.

Interagieren Sie mit Ihrem Chatbot, indem Sie Folgendes ausführen: (drücken Sie Ctrl + C , um die Sitzung zu beenden)

pf flow test --flow ./my_chatbot --interactive

Kernwert: Gewährleistung „hoher Qualität“ vom Prototyp bis zur Produktion

Entdecken Sie unser 15-minütiges Tutorial , das Sie durch die schnelle Abstimmung ➡ Chargentests ➡ Bewertung führt, alles darauf ausgelegt, eine hohe Qualität für die Produktion sicherzustellen.

Nächster Schritt! Mit dem Tutorial fortfahren? Abschnitt, um tiefer in den Prompt-Flow einzutauchen.

Anleitung ?‍♂️

Prompt Flow ist ein Tool zum Erstellen hochwertiger LLM-Apps . Der Entwicklungsprozess in Prompt Flow folgt diesen Schritten: Flow entwickeln, Flow-Qualität verbessern, Flow für die Produktion bereitstellen.

Entwickeln Sie Ihre eigenen LLM-Apps

VS-Code-Erweiterung

Wir bieten auch eine VS Code-Erweiterung (einen Flow-Designer) für eine interaktive Flow-Entwicklungserfahrung mit der Benutzeroberfläche an.

vsc

Sie können es über den Visualstudio-Marktplatz installieren.

Tauchen Sie tief in die Flow-Entwicklung ein

Erste Schritte mit Prompt Flow: Eine Schritt-für-Schritt-Anleitung zum Aufrufen Ihres ersten Flow-Laufs.

Lernen Sie aus Anwendungsfällen

Tutorial: Chat mit PDF: Ein umfassendes Tutorial zum Erstellen einer hochwertigen Chat-Anwendung mit sofortigem Ablauf, einschließlich Ablaufentwicklung und Auswertung mit Metriken.

Weitere Beispiele finden Sie hier. Wir freuen uns über Beiträge neuer Anwendungsfälle!

Einrichtung für Mitwirkende

Wenn Sie daran interessiert sind, einen Beitrag zu leisten, beginnen Sie bitte mit unserem Entwickler-Setup-Leitfaden: dev_setup.md.

Nächster Schritt! Fahren Sie mit dem Abschnitt „Beitragen ?“ fort. Abschnitt, um zum schnellen Ablauf beizutragen.

Mitwirken

Dieses Projekt freut sich über Beiträge und Vorschläge. Für die meisten Beiträge müssen Sie einem Contributor License Agreement (CLA) zustimmen, in dem Sie erklären, dass Sie das Recht haben, uns die Rechte zur Nutzung Ihres Beitrags zu gewähren, und dies auch tatsächlich tun. Weitere Informationen finden Sie unter https://cla.opensource.microsoft.com.

Wenn Sie eine Pull-Anfrage einreichen, ermittelt ein CLA-Bot automatisch, ob Sie eine CLA bereitstellen müssen, und schmückt die PR entsprechend (z. B. Statusprüfung, Kommentar). Folgen Sie einfach den Anweisungen des Bots. Sie müssen dies nur einmal für alle Repos tun, die unsere CLA verwenden.

Dieses Projekt hat den Microsoft Open Source Verhaltenskodex übernommen. Weitere Informationen finden Sie in den FAQ zum Verhaltenskodex oder wenden Sie sich bei weiteren Fragen oder Kommentaren an [email protected].

Marken

Dieses Projekt kann Marken oder Logos für Projekte, Produkte oder Dienstleistungen enthalten. Die autorisierte Nutzung von Microsoft-Marken oder -Logos unterliegt den Marken- und Markenrichtlinien von Microsoft und muss diesen entsprechen. Die Verwendung von Microsoft-Marken oder -Logos in geänderten Versionen dieses Projekts darf keine Verwirrung stiften oder eine Sponsorschaft durch Microsoft implizieren. Jegliche Verwendung von Marken oder Logos Dritter unterliegt den Richtlinien dieser Drittanbieter.

Verhaltenskodex

Dieses Projekt hat den Microsoft Open Source Verhaltenskodex übernommen. Weitere Informationen finden Sie in den FAQ zum Verhaltenskodex oder wenden Sie sich bei weiteren Fragen oder Kommentaren an [email protected].

Datenerfassung

Die Software kann Informationen über Sie und Ihre Nutzung der Software sammeln und diese an Microsoft senden, wenn sie für die Aktivierung von Telemetrie konfiguriert ist. Microsoft kann diese Informationen verwenden, um Dienste bereitzustellen und unsere Produkte und Dienste zu verbessern. Sie können die Telemetrie wie im Repository beschrieben aktivieren. Es gibt auch einige Funktionen in der Software, die es Ihnen und Microsoft ermöglichen können, Daten von Benutzern Ihrer Anwendungen zu sammeln. Wenn Sie diese Funktionen nutzen, müssen Sie geltendes Recht einhalten, einschließlich der Bereitstellung angemessener Hinweise für Benutzer Ihrer Anwendungen zusammen mit einer Kopie der Datenschutzerklärung von Microsoft. Unsere Datenschutzerklärung finden Sie unter https://go.microsoft.com/fwlink/?LinkID=824704. Weitere Informationen zur Datenerhebung und -verwendung finden Sie in der Hilfedokumentation und in unserer Datenschutzerklärung. Mit der Nutzung der Software erklären Sie sich mit diesen Praktiken einverstanden.