RAG 패턴을 통해 기업은 기존 모델을 사용하여 새로운 데이터를 기반으로 응답을 처리하고 생성 할 수 있습니다. RAG는 미세 조정이 필요하지 않고 정기적 인 데이터 업데이트를 용이하게하여 LLM을 비즈니스에 통합하는 것을 간소화합니다.
Enterprise Rag Solution Accelerator (GPT-RAG)는 RAG 패턴의 엔터프라이즈 등급 배포를 위해 강력한 아키텍처를 제공합니다. 근거가있는 응답을 보장하고 가용성, 확장 성 및 감사를 보장하는 무용지 보안 및 책임있는 AI를 기반으로 구축됩니다. 탐사 및 POC 단계에서 본격적인 생산 및 MVP로 전환하는 조직에 이상적입니다.
전체 설정 및 사용법 세부 정보는 사용자 및 관리자 안내서를 참조하십시오.
GPT-RAG는 각각 특정 기능을 갖는 세 가지 구성 요소로 구성된 모듈 식 접근법을 따릅니다.
데이터 수집 - 래그 검색 단계의 데이터 청크 및 인덱싱을 최적화합니다.
Orchestrator- 흐름을 조정하여 정보를 검색하고 사용자 응답을 생성합니다. Semantic 커널 기능 (기본값)을 사용하는 기능 , Autogen 에이전트를 사용하는 에이전트 를 사용하는 두 가지 옵션을 제공합니다. 에이전트로 전환하려면 배포 지침을 참조하십시오.
앱 프론트 엔드 -프론트 엔드 패턴의 백엔드를 사용하여 확장 가능하고 효율적인 웹 인터페이스를 제공합니다.
Rag Pattern 및 GPT-RAG 아키텍처에 대해 자세히 알고 싶다면.
헝겊 패턴 : 뭐와 이유?
솔루션 아키텍처 개요
네트워크 격리없이 시나리오에 대한 기본 아키텍처를 신속하게 설정하는 방법을 알아보십시오. 진행하려면 링크를 클릭하십시오.
사전 구성된 솔루션 설정을 사용하여 Standard Zero-Trust 아키텍처를 사용하여 솔루션 가속기를 배포하십시오. 사용자 정의가 필요하지 않습니다. 진행하려면 링크를 클릭하십시오.
제로 트러스트 아키텍처로 솔루션 가속기 배치를 사용자 정의하고 필요에 맞게 솔루션 설정을 조정하기위한 옵션을 탐색하십시오. 진행하려면 링크를 클릭하십시오.
완전한 제어를 선호하는 사람들을 위해이 세부 가이드를 따라 제로 트러스트 아키텍처로 솔루션 가속기를 수동으로 설정하십시오. 진행하려면 링크를 클릭하십시오.
이 안내서는 Enterprise Rag의 배포 프로세스를 안내합니다. 사용 가능한 두 가지 배포 옵션, 기본 아키텍처 및 제로 트러스트 아키텍처 가 있습니다. 배포를 시작하기 전에 사전 반품 섹션에 요약 된 모든 필요한 도구와 서비스를 준비했는지 확인하십시오.
사전 반품
** 이전 구독에서 Azure AI 서비스 리소스를 작성하지 않은 경우
네트워크 격리 요구 사항이없는 빠른 데모 또는 개념 증명 프로젝트를 위해 기본 아키텍처를 사용하여 가속기를 배포 할 수 있습니다.
배포 절차는 매우 간단합니다. 위에서 언급 한 전제 조건을 설치하고 터미널에서 Azure Developer CLI (AZD)를 사용 하여이 네 단계를 따르십시오.
1 저장소 다운로드 :
azd init -t azure/gpt-rag
참고 : 에이전트 Autogen -Based Orchestrator를 사용하는 경우
-b agentic
추가하십시오.azd init -t azure/gpt-rag -b agentic
2 Azure에 로그인 :
2. Azure 개발자 CLI :
azd auth login
2.B Azure Cli :
az login
3 인프라 및 구성 요소 배포 구축 시작 :
azd up
4 객체 저장소에 소스 문서를 추가하십시오
스토리지 계정에있는 '문서'폴더에 문서를 업로드하십시오. 이 계정의 이름은 'Strag'로 시작해야합니다. 아래 샘플 이미지에 표시된대로 기본 저장소 계정입니다.
완료! 기본 배포가 완료되었습니다.
권장 : 앱 인증을 추가하십시오. 단계별 지침을 위해이 빠른 튜토리얼을보십시오.
보다 안전하고 고립 된 배포를 위해서는 제로 트러스트 아키텍처를 선택할 수 있습니다. 이 아키텍처는 네트워크 격리 및 엄격한 보안 조치가 높게 가치가있는 생산 환경에 이상적입니다.
제로 트러스트 아키텍처를 배포하기 전에 전제 조건을 검토하십시오. 프로세스의 두 번째 부분에는 Node.js와 Python 만 있으면이 아키텍처를 배포하는 동안 생성 된 VM에서 수행됩니다.
배포 절차는 기본 아키텍처의 절차와 유사하지만 몇 가지 추가 단계가 있습니다. 이 옵션 배포에 대한 자세한 안내서는 아래 지침을 참조하십시오.
1 저장소를 다운로드하십시오
azd init -t azure/gpt-rag
참고 : 에이전트 Autogen -Based Orchestrator를 사용하는 경우
-b agentic
추가하십시오.azd init -t azure/gpt-rag -b agentic
2 네트워크 격리 활성화
azd env set AZURE_NETWORK_ISOLATION true
3 Azure에 로그인 :
2. Azure 개발자 CLI :
azd auth login
2.B Azure Cli :
az login
4 인프라 및 구성 요소 배포 구축 시작 :
azd provision
5 다음으로, 배포를 계속하기 위해 요새 연결 (4 단계 중에 생성)과 함께 가상 머신을 사용합니다.
사용자 gptrag를 사용하여 생성 된 VM에 로그인하고 아래 그림과 유사하게 KeyVault에 저장된 비밀번호로 인증하십시오.
6 Windows에 액세스하면 다른 전제 조건이 이미 VM에 설치되어 있으므로 PowerShell을 설치하십시오.
7 명령 프롬프트를 열고 다음 명령을 실행하여 AZD를 최신 버전으로 업데이트하십시오.
choco upgrade azd
AZD를 업데이트 한 후 단순히 터미널을 닫고 다시 열십시오.
8 새 디렉토리 생성 (예 : deploy
다음 생성 된 디렉토리를 입력하십시오.
mkdir deploy
cd deploy
절차를 마무리하려면 명령 프롬프트에서 후속 명령을 실행하여 배포를 성공적으로 완료하십시오.
azd init -t azure/gpt-rag
azd auth login
azd env refresh
azd package
azd deploy
참고 :
azd init ...
및azd env refresh
실행할 때 인프라의 초기 프로비저닝에 사용되는 동일한 환경 이름, 구독 및 지역을 사용하십시오.
완료! 제로 트러스트 배포가 완료되었습니다.
권장 : 앱 인증을 추가하십시오. 단계별 지침을 위해이 빠른 튜토리얼을보십시오.
이 섹션에서는 배포를 사용자 정의, 관리 및 문제 해결하기위한 빠른 가이드를 제공합니다.
표준 배포 프로세스는 Azure 리소스를 설정하고 표준 구성으로 가속기 구성 요소를 배포합니다. 배포를 특정 요구 사항에 맞게 조정하려면 추가 사용자 정의 옵션을 보려면 사용자 정의 배포 섹션의 단계를 따르십시오.
GPT-RAG 솔루션을 개념 증명으로 성공적으로 배포하고 적절한 CI/CD 프로세스를 사용하여 배포를 생산에 가속화하기 위해 배포를 공식화 할 준비가되면 Azure DevOps 또는 GitHub의 다중 환경 배치 가이드를 참조하십시오.
배포 프로세스 중에 오류가 발생하면 문제 해결 페이지를 참조하여 일반적인 문제 해결에 대한 지침을 얻으십시오.
배포 성능을 평가하려면 방법론 및 모범 사례 테스트에 대한 성능 테스트 안내서를 참조하십시오.
대화 문서를 쿼리하고 분석하는 방법에 요약 된 단계에 따라 대화 데이터를 쿼리하고 분석하는 방법을 알아보십시오.
자세한 가격 추정을 위해 가격 책정 모델을 검토하여 배포 비용의 영향을 이해하십시오.
거버넌스 모델에 제공된 지침에 따라 배치의 적절한 거버넌스를 보장하십시오.
이 프로젝트에 기여하는 데 관심을 가져 주셔서 감사합니다! 기고자 라이센스 계약 (CLA)에 대한 정보, 행동 강령 및 풀 요청 제출 프로세스를 포함하여 기여 방법에 대한 자세한 지침은 Contributing.md 페이지를 참조하십시오.
귀하의 지원과 기여에 감사드립니다!
이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표 또는 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인 된 사용에는 Microsoft의 상표 및 브랜드 지침이 적용되며 따라야합니다. 이 프로젝트의 수정 된 버전에서 Microsoft 상표 또는 로고를 사용한다고해서 혼란을 일으키거나 Microsoft 후원을 암시해서는 안됩니다. 타사 상표 또는 로고를 사용하면 타사 정책이 적용됩니다.