Быстрый поток

Приглашаем вас присоединиться к нам, чтобы улучшить оперативную работу, участвуя в обсуждениях, открывая вопросы и отправляя PR.

Prompt Flow — это набор инструментов разработки, предназначенный для оптимизации сквозного цикла разработки приложений искусственного интеллекта на основе LLM: от создания идей, прототипирования, тестирования, оценки до производственного развертывания и мониторинга. Это значительно упрощает оперативное проектирование и позволяет создавать приложения LLM с высоким качеством.

Благодаря оперативному потоку вы сможете:

Создавайте и итеративно развивайте поток
- Создавайте исполняемые потоки, которые связывают воедино LLM, подсказки, код Python и другие инструменты.
- Отлаживайте и повторяйте свои процессы, особенно легко отслеживая взаимодействие с LLM.
Оцените качество и производительность потока
- Оцените качество и производительность вашего потока с помощью больших наборов данных.
- Интегрируйте тестирование и оценку в свою систему CI/CD, чтобы обеспечить качество вашего потока.
Оптимизированный цикл разработки для производства
- Разверните свой поток на выбранной вами обслуживающей платформе или легко интегрируйте его в базу кода вашего приложения.
- (Необязательно, но настоятельно рекомендуется) Сотрудничайте со своей командой, используя облачную версию Prompt Flow в Azure AI.

Установка

Чтобы быстро начать работу, вы можете использовать готовую среду разработки. Нажмите кнопку ниже , чтобы открыть репозиторий в GitHub Codespaces, а затем продолжите чтение!

Если вы хотите начать работу в локальной среде, сначала установите пакеты:

Убедитесь, что у вас установлена среда Python, рекомендуется python>=3.9, <=3.11 .

pip install promptflow promptflow-tools

Быстрый старт ⚡

Создайте чат-бота с быстрым потоком

Запустите команду, чтобы инициировать поток запросов из шаблона чата, она создаст папку с именем my_chatbot и сгенерирует в ней необходимые файлы:

pf flow init --flow ./my_chatbot --type chat

Настройте соединение для вашего ключа API

Для ключа OpenAI установите соединение, выполнив команду, используя файл openai.yaml в папке my_chatbot , в которой хранится ваш ключ OpenAI (переопределите ключи и имя с помощью --set, чтобы избежать изменений файла yaml):

pf connection create --file ./my_chatbot/openai.yaml --set api_key= < your_api_key > --name open_ai_connection

Для ключа Azure OpenAI установите соединение, выполнив команду с использованием файла azure_openai.yaml :

pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key= < your_api_key > api_base= < your_api_base > --name open_ai_connection

Общайтесь со своим потоком

В папке my_chatbot есть файл flow.dag.yaml , в котором описывается поток, включая входы/выходы, узлы, соединения, модель LLM и т. д.

Обратите внимание, что в узле chat мы используем соединение с именем open_ai_connection (указанное в поле connection ) и модель gpt-35-turbo (указанную в поле deployment_name ). Поле Deployment_name предназначено для указания модели OpenAI или ресурса развертывания Azure OpenAI.

Взаимодействуйте со своим чат-ботом, запустив: (нажмите Ctrl + C , чтобы завершить сеанс)

pf flow test --flow ./my_chatbot --interactive

Основная ценность: обеспечение «высокого качества» от прототипа до производства.

Изучите наше 15-минутное руководство , которое поможет вам выполнить быструю настройку ➡ серийное тестирование ➡ оценку — все это предназначено для обеспечения высокого качества, готового к производству.

Следующий шаг! Продолжить обучение ? раздел, чтобы углубиться в поток подсказок.

Учебное пособие ?‍♂️

Prompt Flow — это инструмент, предназначенный для создания высококачественных приложений LLM . Процесс разработки в Prompt Flow состоит из следующих этапов: разработать поток, улучшить качество потока, развернуть поток в производство.

Разработайте свои собственные приложения LLM

Расширение кода VS

Мы также предлагаем расширение VS Code (конструктор потоков) для интерактивной разработки потоков с пользовательским интерфейсом.

ВСК

Вы можете установить его из магазина VisualStudio.

Глубокое погружение в разработку потока

Начало работы с быстрым потоком: пошаговое руководство по запуску первого запуска потока.

Учитесь на примерах использования

Учебное пособие. Чат с PDF: комплексное руководство по созданию высококачественного приложения чата с быстрым потоком сообщений, включая разработку потока и оценку с помощью показателей.

Больше примеров можно найти здесь. Мы приветствуем вклад новых вариантов использования!

Настройка для участников

Если вы хотите внести свой вклад, начните с нашего руководства по настройке для разработчиков: dev_setup.md.

Следующий шаг! Продолжить внесение вклада ? раздел, чтобы способствовать быстрому потоку.

Содействие

Этот проект приветствует вклад и предложения. Большинство вкладов требует от вас согласия с Лицензионным соглашением для авторов (CLA), в котором говорится, что вы имеете право и действительно предоставляете нам права на использование вашего вклада. Подробную информацию можно найти на странице https://cla.opensource.microsoft.com.

Когда вы отправляете запрос на включение, бот CLA автоматически определяет, нужно ли вам предоставить CLA, и соответствующим образом оформляет PR (например, проверку статуса, комментарий). Просто следуйте инструкциям бота. Вам нужно будет сделать это только один раз во всех репозиториях, используя наш CLA.

В этом проекте принят Кодекс поведения Microsoft с открытым исходным кодом. Для получения дополнительной информации см. Часто задаваемые вопросы о Кодексе поведения или свяжитесь с нами по адресу [email protected], если у вас возникнут дополнительные вопросы или комментарии.

Товарные знаки

Этот проект может содержать товарные знаки или логотипы проектов, продуктов или услуг. Разрешенное использование товарных знаков и логотипов Microsoft регулируется и должно соответствовать Руководству Microsoft по товарным знакам и брендам. Использование товарных знаков или логотипов Microsoft в измененных версиях этого проекта не должно вызывать путаницу или подразумевать спонсорство Microsoft. Любое использование товарных знаков или логотипов третьих лиц регулируется политикой этих третьих сторон.

Нормы поведения

В этом проекте принят Кодекс поведения Microsoft с открытым исходным кодом. Для получения дополнительной информации см. Часто задаваемые вопросы о Кодексе поведения или свяжитесь с нами по адресу [email protected], если у вас возникнут дополнительные вопросы или комментарии.

Сбор данных

Программное обеспечение может собирать информацию о вас и использовании вами программного обеспечения и отправлять ее в Microsoft, если оно настроено на включение телеметрии. Microsoft может использовать эту информацию для предоставления услуг и улучшения наших продуктов и услуг. Вы можете включить телеметрию, как описано в репозитории. В программном обеспечении также есть некоторые функции, которые могут позволить вам и Microsoft собирать данные от пользователей ваших приложений. Если вы используете эти функции, вы должны соблюдать действующее законодательство, включая предоставление соответствующих уведомлений пользователям ваших приложений вместе с копией заявления о конфиденциальности Microsoft. Наше заявление о конфиденциальности находится по адресу https://go.microsoft.com/fwlink/?LinkID=824704. Вы можете узнать больше о сборе и использовании данных в справочной документации и нашем заявлении о конфиденциальности. Использование вами программного обеспечения означает ваше согласие на такие действия.