Fluxo de prompt

Bem-vindo a se juntar a nós para melhorar o fluxo imediato, participando de discussões, abrindo questões e enviando PRs.

O fluxo imediato é um conjunto de ferramentas de desenvolvimento projetadas para agilizar o ciclo de desenvolvimento ponta a ponta de aplicativos de IA baseados em LLM, desde a idealização, prototipagem, teste, avaliação até a implantação e monitoramento da produção. Isso torna a engenharia imediata muito mais fácil e permite que você crie aplicativos LLM com qualidade de produção.

Com o fluxo imediato, você será capaz de:

Criar e desenvolver fluxo iterativamente
- Crie fluxos executáveis que vinculam LLMs, prompts, código Python e outras ferramentas.
- Depure e itere seus fluxos, especialmente rastreando a interação com LLMs com facilidade.
Avalie a qualidade e o desempenho do fluxo
- Avalie a qualidade e o desempenho do seu fluxo com conjuntos de dados maiores.
- Integre os testes e a avaliação ao seu sistema CI/CD para garantir a qualidade do seu fluxo.
Ciclo de desenvolvimento simplificado para produção
- Implante seu fluxo na plataforma de serviço que você escolher ou integre-o facilmente à base de código do seu aplicativo.
- (Opcional, mas altamente recomendado) Colabore com sua equipe aproveitando a versão em nuvem do fluxo Prompt no Azure AI.

Instalação

Para começar rapidamente, você pode usar um ambiente de desenvolvimento pré-construído. Clique no botão abaixo para abrir o repositório no GitHub Codespaces e continue o leia-me!

Se você quiser começar em seu ambiente local, primeiro instale os pacotes:

Certifique-se de ter um ambiente python, python>=3.9, <=3.11 é recomendado.

pip install promptflow promptflow-tools

Início rápido ⚡

Crie um chatbot com fluxo imediato

Execute o comando para iniciar um fluxo de prompt a partir de um modelo de chat, ele cria uma pasta chamada my_chatbot e gera os arquivos necessários dentro dela:

pf flow init --flow ./my_chatbot --type chat

Configure uma conexão para sua chave API

Para a chave OpenAI, estabeleça uma conexão executando o comando, usando o arquivo openai.yaml na pasta my_chatbot , que armazena sua chave OpenAI (substitua as chaves e o nome por --set para evitar alterações no arquivo yaml):

pf connection create --file ./my_chatbot/openai.yaml --set api_key= < your_api_key > --name open_ai_connection

Para a chave Azure OpenAI, estabeleça a ligação executando o comando, utilizando o ficheiro azure_openai.yaml :

pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key= < your_api_key > api_base= < your_api_base > --name open_ai_connection

Converse com seu fluxo

Na pasta my_chatbot , há um arquivo flow.dag.yaml que descreve o fluxo, incluindo entradas/saídas, nós, conexão e o modelo LLM, etc.

Observe que no nó chat , estamos usando uma conexão chamada open_ai_connection (especificada no campo connection ) e o modelo gpt-35-turbo (especificado no campo deployment_name ). O deploy_name arquivado é para especificar o modelo OpenAI ou o recurso de implantação Azure OpenAI.

Interaja com seu chatbot executando: (pressione Ctrl + C para encerrar a sessão)

pf flow test --flow ./my_chatbot --interactive

Valor central: garantir "alta qualidade" desde o protótipo até a produção

Explore nosso tutorial de 15 minutos que orienta você através do ajuste imediato ➡ teste em lote ➡ avaliação, tudo projetado para garantir alta qualidade pronta para produção.

Próximo passo! Continuar com o Tutorial ? seção para se aprofundar no fluxo imediato.

Tutorial ?‍♂️

O fluxo de prompt é uma ferramenta projetada para construir aplicativos LLM de alta qualidade . O processo de desenvolvimento no fluxo de prompt segue estas etapas: desenvolver um fluxo, melhorar a qualidade do fluxo, implantar o fluxo na produção.

Desenvolva seus próprios aplicativos LLM

Extensão de código VS

Também oferecemos uma extensão VS Code (um designer de fluxo) para uma experiência interativa de desenvolvimento de fluxo com UI.

vsc

Você pode instalá-lo no mercado do visualstudio.

Aprofunde-se no desenvolvimento de fluxo

Introdução ao fluxo de prompt: uma orientação passo a passo para invocar sua primeira execução de fluxo.

Aprenda com os casos de uso

Tutorial: Bate-papo com PDF: um tutorial completo sobre como construir um aplicativo de bate-papo de alta qualidade com fluxo imediato, incluindo desenvolvimento de fluxo e avaliação com métricas.

Mais exemplos podem ser encontrados aqui. Aceitamos contribuições de novos casos de uso!

Configuração para colaboradores

Se você estiver interessado em contribuir, comece com nosso guia de configuração de desenvolvedor: dev_setup.md.

Próximo passo! Continuar com a contribuição ? seção para contribuir para o fluxo imediato.

Contribuindo

Este projeto aceita contribuições e sugestões. A maioria das contribuições exige que você concorde com um Contrato de Licença de Colaborador (CLA), declarando que você tem o direito de nos conceder, e realmente nos concede, os direitos de uso de sua contribuição. Para obter detalhes, visite https://cla.opensource.microsoft.com.

Quando você envia uma solicitação pull, um bot CLA determinará automaticamente se você precisa fornecer um CLA e decorará o PR adequadamente (por exemplo, verificação de status, comentário). Basta seguir as instruções fornecidas pelo bot. Você só precisará fazer isso uma vez em todos os repositórios usando nosso CLA.

Este projeto adotou o Código de Conduta de Código Aberto da Microsoft. Para obter mais informações, consulte as Perguntas frequentes sobre o Código de Conduta ou entre em contato com [email protected] com perguntas ou comentários adicionais.

Marcas registradas

Este projeto pode conter marcas registradas ou logotipos de projetos, produtos ou serviços. O uso autorizado de marcas registradas ou logotipos da Microsoft está sujeito e deve seguir as Diretrizes de Marcas Registradas e Marcas da Microsoft. O uso de marcas registradas ou logotipos da Microsoft em versões modificadas deste projeto não deve causar confusão nem implicar patrocínio da Microsoft. Qualquer uso de marcas registradas ou logotipos de terceiros está sujeito às políticas desses terceiros.

Código de Conduta

Este projeto adotou o Código de Conduta de Código Aberto da Microsoft. Para obter mais informações, consulte as Perguntas frequentes sobre o Código de Conduta ou entre em contato com [email protected] com perguntas ou comentários adicionais.

Coleta de dados

O software poderá coletar informações sobre você e seu uso do software e enviá-las à Microsoft, se configurado para habilitar a telemetria. A Microsoft poderá usar essas informações para fornecer serviços e melhorar nossos produtos e serviços. Você pode ativar a telemetria conforme descrito no repositório. Existem também alguns recursos no software que podem permitir que você e a Microsoft coletem dados de usuários de seus aplicativos. Se você usar esses recursos, deverá cumprir a lei aplicável, incluindo o fornecimento de avisos apropriados aos usuários de seus aplicativos, juntamente com uma cópia da declaração de privacidade da Microsoft. Nossa declaração de privacidade está localizada em https://go.microsoft.com/fwlink/?LinkID=824704. Você pode saber mais sobre a coleta e uso de dados na documentação de ajuda e em nossa declaração de privacidade. O uso do software funciona como seu consentimento para essas práticas.