신속한 흐름

토론 참여, 이슈 공개, PR 제출을 통해 신속한 흐름을 개선하는 데 참여하신 것을 환영합니다.

Prompt flow 는 아이디어 구상, 프로토타이핑, 테스트, 평가부터 프로덕션 배포 및 모니터링에 이르기까지 LLM 기반 AI 애플리케이션의 엔드투엔드 개발 주기를 간소화하도록 설계된 개발 도구 모음입니다. 이를 통해 신속한 엔지니어링이 훨씬 쉬워지고 프로덕션 품질의 LLM 앱을 구축할 수 있습니다.

신속한 흐름을 통해 다음을 수행할 수 있습니다.

흐름 생성 및 반복 개발
- LLM, 프롬프트, Python 코드 및 기타 도구를 함께 연결하는 실행 가능한 흐름을 만듭니다.
- 흐름을 디버그하고 반복하며, 특히 LLM과의 상호 작용을 쉽게 추적할 수 있습니다.
흐름 품질 및 성능 평가
- 더 큰 데이터 세트를 사용하여 흐름의 품질과 성능을 평가하세요.
- 테스트 및 평가를 CI/CD 시스템에 통합하여 흐름 품질을 보장하세요.
생산을 위한 간소화된 개발 주기
- 선택한 제공 플랫폼에 흐름을 배포하거나 앱의 코드 베이스에 쉽게 통합하세요.
- (선택 사항이지만 적극 권장됨) Azure AI에서 프롬프트 흐름의 클라우드 버전을 활용하여 팀과 협력하세요.

설치

빠르게 시작하려면 사전 구축된 개발 환경을 사용할 수 있습니다. 아래 버튼을 클릭하여 GitHub Codespaces에서 저장소를 열고 readme를 계속 진행하세요!

로컬 환경에서 시작하려면 먼저 패키지를 설치하십시오.

Python 환경이 있는지 확인하세요. python>=3.9, <=3.11 권장됩니다.

pip install promptflow promptflow-tools

빠른 시작 ⚡

프롬프트 흐름을 갖춘 챗봇 만들기

명령을 실행하여 채팅 템플릿에서 프롬프트 흐름을 시작하면 my_chatbot 이라는 폴더가 생성되고 그 안에 필수 파일이 생성됩니다.

pf flow init --flow ./my_chatbot --type chat

API 키에 대한 연결 설정

OpenAI 키의 경우 OpenAI 키를 저장하는 my_chatbot 폴더의 openai.yaml 파일을 사용하여 명령을 실행하여 연결을 설정합니다(yaml 파일 변경을 방지하려면 --set으로 키와 이름을 재정의함).

pf connection create --file ./my_chatbot/openai.yaml --set api_key= < your_api_key > --name open_ai_connection

Azure OpenAI 키의 경우 azure_openai.yaml 파일을 사용하여 명령을 실행하여 연결을 설정합니다.

pf connection create --file ./my_chatbot/azure_openai.yaml --set api_key= < your_api_key > api_base= < your_api_base > --name open_ai_connection

흐름과 채팅

my_chatbot 폴더에는 입력/출력, 노드, 연결 및 LLM 모델 등을 포함하여 흐름을 설명하는 flow.dag.yaml 파일이 있습니다.

chat 노드에서는 open_ai_connection ( connection 필드에 지정됨)이라는 연결과 gpt-35-turbo 모델( deployment_name 필드에 지정됨)을 사용하고 있습니다. 배포_이름 필드는 OpenAI 모델 또는 Azure OpenAI 배포 리소스를 지정하기 위한 것입니다.

다음을 실행하여 챗봇과 상호 작용합니다. (세션을 종료하려면 Ctrl + C 누르세요.)

pf flow test --flow ./my_chatbot --interactive

핵심가치: 시제품부터 생산까지 "고품질" 보장

신속한 조정 ➡ 배치 테스트 ➡ 평가를 안내하는 15분 튜토리얼을 살펴보세요. 이 모든 과정은 생산 준비가 완료된 고품질을 보장하도록 설계되었습니다.

다음 단계! 튜토리얼 을 계속하시겠습니까? 프롬프트 흐름에 대해 더 자세히 알아보려면 섹션을 참조하세요.

튜토리얼 ?‍♂️

프롬프트 흐름은 고품질 LLM 앱을 구축 하도록 설계된 도구입니다. 프롬프트 흐름의 개발 프로세스는 흐름 개발, 흐름 품질 개선, 프로덕션에 흐름 배포 등의 단계를 따릅니다.

나만의 LLM 앱 개발

VS 코드 확장

또한 UI를 사용한 대화형 흐름 개발 환경을 위한 VS Code 확장(흐름 디자이너)도 제공합니다.

vsc

Visualstudio 마켓플레이스에서 설치할 수 있습니다.

흐름 개발에 대해 자세히 알아보기

프롬프트 흐름 시작하기: 첫 번째 흐름 실행을 호출하기 위한 단계별 지침입니다.

사용 사례에서 배우기

튜토리얼: PDF로 채팅: 흐름 개발 및 메트릭을 사용한 평가를 포함하여 프롬프트 흐름을 사용하여 고품질 채팅 애플리케이션을 구축하는 방법에 대한 엔드 투 엔드 튜토리얼입니다.

더 많은 예는 여기에서 찾을 수 있습니다. 새로운 사용 사례에 대한 기여를 환영합니다!

기여자를 위한 설정

기여하고 싶다면 개발 설정 가이드인 dev_setup.md부터 시작하세요.

다음 단계! 계속해서 기여하시겠습니까 ? 신속한 흐름에 기여하는 섹션입니다.

기여

이 프로젝트는 기여와 제안을 환영합니다. 대부분의 기여는 귀하가 귀하의 기여를 사용할 권리가 있고 실제로 그렇게 할 권리가 있음을 선언하는 기여자 라이센스 계약(CLA)에 동의해야 합니다. 자세한 내용을 보려면 https://cla.opensource.microsoft.com을 방문하세요.

끌어오기 요청을 제출하면 CLA 봇이 자동으로 CLA 제공이 필요한지 여부를 결정하고 PR을 적절하게 장식합니다(예: 상태 확인, 댓글). 봇이 제공하는 지침을 따르기만 하면 됩니다. CLA를 사용하여 모든 저장소에서 이 작업을 한 번만 수행하면 됩니다.

이 프로젝트는 Microsoft 오픈 소스 행동 강령을 채택했습니다. 자세한 내용은 행동 강령 FAQ를 참조하거나 추가 질문이나 의견이 있는 경우 [email protected]으로 문의하세요.

상표

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표나 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용에는 Microsoft의 상표 및 브랜드 지침이 적용되며 이를 따라야 합니다. 이 프로젝트의 수정된 버전에 Microsoft 상표 또는 로고를 사용하면 혼동을 일으키거나 Microsoft 후원을 암시해서는 안 됩니다. 제3자 상표 또는 로고의 사용에는 해당 제3자의 정책이 적용됩니다.

행동 강령

이 프로젝트는 Microsoft 오픈 소스 행동 강령을 채택했습니다. 자세한 내용은 행동 강령 FAQ를 참조하거나 추가 질문이나 의견이 있는 경우 [email protected]으로 문의하세요.

데이터 수집

원격 측정을 활성화하도록 구성된 경우 소프트웨어는 귀하 및 귀하의 소프트웨어 사용에 대한 정보를 수집하여 Microsoft로 보낼 수 있습니다. Microsoft는 서비스를 제공하고 제품 및 서비스를 개선하기 위해 이 정보를 사용할 수 있습니다. 저장소에 설명된 대로 원격 측정을 켤 수 있습니다. 또한 소프트웨어에는 귀하와 Microsoft가 귀하의 응용 프로그램 사용자로부터 데이터를 수집할 수 있는 일부 기능이 있습니다. 이러한 기능을 사용하는 경우 Microsoft의 개인 정보 보호 정책 사본과 함께 응용 프로그램 사용자에게 적절한 통지를 제공하는 것을 포함하여 관련 법률을 준수해야 합니다. 당사의 개인 정보 보호 정책은 https://go.microsoft.com/fwlink/?LinkID=824704에 있습니다. 도움말 문서와 개인 정보 보호 정책에서 데이터 수집 및 사용에 대해 자세히 알아볼 수 있습니다. 귀하의 소프트웨어 사용은 이러한 관행에 대한 귀하의 동의로 간주됩니다.