chat with your data solution accelerator
v1.12.4
| 이름 | 설명 | 언어 | 제품 | page_type | urlfragment | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
데이터와 채팅 - 솔루션 가속기 (Python) | OpenAI 및 Python으로 AI 검색을 사용하여 데이터와 채팅하십시오. |
|
| 견본 | DATA-Solution-Accelerator를 채팅합니다 |
데이터 솔루션 가속기 저장소와 채팅 에 오신 것을 환영합니다! Data Solution Accelerator와의 채팅은 Azure AI 검색 기능과 LLM (Lange Language Models)의 기능을 결합하여 대화적인 검색 경험을 만드는 강력한 도구입니다. 이 솔루션 가속기는 Azure Openai GPT 모델과 데이터에서 생성 된 Azure AI 검색 색인을 사용하여 웹 응용 프로그램에 통합되어 음성-텍스트 기능을 포함한 자연 언어 인터페이스를 검색 쿼리에 제공합니다. 사용자는 파일을 끌고 삭제하고 스토리지를 가리키며 기술 설정을 처리하여 문서를 변환 할 수 있습니다. 이 기술의 사용을 가속화하기 위해 모든 것을 자체 구독으로 배포 할 수 있습니다.
이 저장소는 자연어로 데이터를 쿼리하려는 사용자에게 엔드 투 엔드 솔루션을 제공합니다. 여기에는 여러 파일 유형에 대한 잘 설계된 섭취 메커니즘, 쉬운 배포 및 유지 보수 지원 팀이 포함됩니다. 가속기는 푸시 또는 당김 섭취를 모두 보여줍니다. 오케스트레이션 (시맨틱 커널, 랑 체인, 오픈 나이 함수 또는 프롬프트 흐름) 선택은 헝겊 패턴을 구현하는 데 필요한 최소 구성 요소 여야합니다. 데이터를 실험하거나 평가하지 않고 생산에 적용되는 것은 아닙니다. 다음과 같은 기능을 제공합니다.
데이터의 Azure OpenAi가 제공하는 것 이상으로 시나리오를 사용자 정의 해야하는 경우이 저장소를 사용하십시오. 기본적 으로이 리포지토리에는 청크 크기, 오버랩, 검색/검색 유형 및 시스템 프롬프트를 포함하되 이에 국한되지 않는 특정 헝겊 구성 세트가 제공됩니다. 검색/검색 및 데이터에 대한 답변 생성을 평가하고 제작 에서이 리포지트를 사용하기 전에 이러한 구성을 조정하는 것이 중요합니다. RAG 평가를 이해하고 수행하는 출발점의 경우 Rag Experiment Accelerator를 살펴 보는 것이 좋습니다.
여기에 제시된 가속기는 예를 들어 몇 가지 옵션을 제공합니다.
*Azure OpenAi 및 AI 검색 데모로 ChatGpt + Enterprise 데이터를 보셨습니까? 실험을 원하시면 : 프롬프트를 사용하여 재생하고, RAG 패턴의 다양한 구현 접근법을 이해하고, 다양한 기능이 Rag 패턴과 어떻게 상호 작용하는지 확인하고 RAG 배치에 가장 적합한 옵션을 선택하고 해당 저장소를 살펴보십시오.
다음은 Azure가 제공하는 몇 가지 기능, 사용 가능한 Github 데모 샘플 및이 리포지토리가 포함 된 비교 테이블입니다.
| 이름 | 기능 또는 샘플? | 무엇입니까? | 언제 사용해야합니까? |
|---|---|---|---|
| "데이터와 채팅"솔루션 가속기 - (이 repo) | 푸른 샘플 | Azure AI 검색을 리트리버로 사용하는 엔드 투 엔드 기준 래그 패턴 샘플. | 이 샘플은 Azure가 제공 한 RAG 패턴 구현이 비즈니스 요구 사항을 충족시킬 수 없을 때 개발자가 사용해야합니다. 이 샘플은 솔루션을 사용자 정의하는 수단을 제공합니다. 개발자는 요구 사항을 충족시키기 위해 자체 코드를 추가하고 개별 회사 정책에 따라 모범 사례에 적응해야합니다. |
| 데이터에 대한 Azure Openai | Azure 기능 | Azure OpenAi Service는 Azure AI Studio의 REST API 또는 웹 기반 인터페이스를 사용하여 데이터에 연결하여 Azure OpenAI ChatGpt 모델 및 Azure AI 검색으로 향상된 채팅 경험을 가능하게하는 솔루션을 생성하는 상자 외부 엔드 투 엔드 래그 구현을 제공합니다. | 이것은 Azure AI 검색 리트리버를 사용하여 Azure OpenAI 서비스를위한 엔드 투 엔드 솔루션이 필요한 개발자에게 고려되는 첫 번째 옵션이어야합니다. 지원되는 데이터 소스, Azure OpenAI 서비스의 ChatGpt 모델 및 엔터프라이즈 애플리케이션 요구를 구성하는 데 필요한 기타 Azure 리소스를 선택하기 만하면됩니다. |
| Azure 머신 러닝 프롬프트 흐름 | Azure 기능 | Azure Machine Learning의 Rag는 대형 언어 모델 및 벡터화를위한 Azure OpenAI 서비스와 통합하여 가능합니다. 여기에는 벡터 저장소로서 Faiss 및 Azure AI 검색에 대한 지원과 오픈 소스 오퍼링, 도구 및 데이터 청크 용 Langchain과 같은 프레임 워크 지원이 포함됩니다. Azure Machine Learning Promp Flow는 데이터 생성을 테스트하고, 신속한 생성을 자동화하고, 신속한 평가 메트릭을 시각화하며, 파이프 라인을 사용하여 RAG 워크 플로를 MLOP에 통합하는 기능을 제공합니다. | 개발자가 LLM 기반 AI 애플리케이션의 개발주기와 관련된 프로세스를 더 많이 제어 해야하는 경우 Azure Machine Learning 프롬프트 흐름을 사용하여 대규모 테스트를 통해 실행 가능한 흐름을 생성하고 성능을 평가해야합니다. |
| Azure OpenAi 및 AI 검색 데모를 사용한 ChatGpt + 엔터프라이즈 데이터 | 푸른 샘플 | Azure AI 검색을 리트리버로 사용하는 Rag Pattern Demo. | Rag 패턴의 엔드 투 엔드 데모를 사용하거나 제시하려는 개발자는이 샘플을 사용해야합니다. 여기에는 다양한 검색 모드를 배포하고 테스트하는 기능과 비즈니스 사용 사례를 지원하기위한 프롬프트가 포함됩니다. |
| 헝겊 실험 가속기 | 도구 | Rag Expelerator는 Azure AI 검색 및 헝겊 패턴을 사용하여 실험 및 평가를 수행하는 데 도움이되는 다양한 도구입니다. | Rag Expelerator는 OpenAI의 검색 쿼리 및 응답 품질에 대한 실험 및 평가를보다 쉽고 빠르게 실행할 수 있도록하는 것입니다. 이 도구는 다양한 검색 및 OpenAI 관련 하이퍼 파라미터의 성능을 테스트하고자하는 연구원, 데이터 과학자 및 개발자에게 유용합니다. |
참고 : 현재 모델을 사용하면 사용자가 PDF, 텍스트 및 DOCX 파일과 같은 구조화되지 않은 데이터에 대한 질문을 할 수 있습니다. 지원되는 파일 유형을 참조하십시오.
내부 비 구조화 된 회사 데이터에 대한 연구를 원하는 회사 직원 (직원, 경영진)은 자연어를 사용 하여이 가속기를 활용하여 필요한 것을 빨리 찾을 수 있습니다.
이 가속기는 또한 업계와 역할에서 작동하며 내부 비 구조적 회사 데이터에 대한 ChatGPT 경험으로 빠른 답변을 얻고 자하는 모든 직원에게 적합합니다.
기술 관리자는이 가속기를 사용하여 동료들에게 내부 비 구조화 회사 데이터에 쉽게 액세스 할 수 있도록 할 수 있습니다. Admins는 시스템 구성자를 사용자 정의하여 의도 된 잠재 고객에 대한 응답을 조정할 수 있습니다.
샘플 데이터는이 가속기가 금융 서비스 산업 (FSI)에서 어떻게 사용될 수 있는지를 보여줍니다.
이 시나리오에서 재무 고문은 Woodgrove Investments의 신흥 시장 기금에 대한 관심을 표명 한 잠재 고객과의 회의를 준비하고 있습니다. 고문은 신흥 시장 펀드의 전반적인 목표와 관련 위험에 대한 이해를 상쾌하게함으로써 회의를 준비합니다.
재무 고문은 Woodgrove의 신흥 시장 기금에 대해 더 많은 정보를 얻었으므로 고객 의이 펀드에 대한 질문에 대한 답변을 더 잘 갖추고 있습니다.
또한, 우리는이 가속기가 모든 산업에서 어떻게 활용 될 수 있는지를 보여주기 위해 법적 검토 및 요약 보조 시나리오를 구현했습니다. 법적 검토 및 요약 보조원은 전문가가 많은 문서 모음을 효율적으로 관리하고 상호 작용하도록 도와줍니다. 자세한 내용은 계약 검토 및 요약 보조 README를 참조하십시오.
참고 :이 가속기에 포함 된 일부 샘플 데이터는 AI를 사용하여 생성되었으며 예시적인 목적으로 만 사용됩니다.
샘플 데이터는이 가속기가 산업 분야의 직원 온 보딩 시나리오에 어떻게 사용될 수 있는지를 보여줍니다.
이 시나리오에서 새로 고용 된 직원은 조직에 대한 보드를하는 과정에 있습니다. 솔루션 가속기를 활용하여 그녀는 조직의 건강 및 퇴직 혜택의 광범위한 제품을 탐색합니다. 새로 통합 된 채팅 기록 기능을 통해 이전 대화를 다시 방문하여 여러 일의 연구에서 연속성과 상황을 보장 할 수 있습니다. 이 기능을 통해 신입 사원은 정보를 효율적으로 수집하고 통합하여 온 보딩 경험을 간소화 할 수 있습니다. 자세한 내용은 readme를 참조하십시오.
이 솔루션 가속기는 여러 리소스를 배포합니다. 배포 전에 각 구성 요소의 비용을 평가하십시오.
다음은 일부 리소스의 가격 세부 정보에 대한 링크입니다.
두 가지 선택이 있습니다. "Azure에 배포"는 코드를 복제 할 필요가없는 한 번의 클릭 배포를 제공합니다. 또는 개발자 경험을 원한다면 로컬 배포 지침을 따르십시오.
메인 브랜치에서 사전 제작 된 컨테이너를 사용하는 데모는이 버튼을 클릭하여 사용할 수 있습니다.
배포가 완료되면 Azure App Service에서 Azure App Service에서 인증을 설정하는 단계에 따라 Azure App Service에서 실행되는 웹 앱에 앱 인증을 추가하십시오.
참고 : 기본 구성은 버전 0613과 함께 OpenAI 모델 "GPT-35-Turbo"를 배포합니다. 그러나 모든 위치 가이 버전을 지원하는 것은 아닙니다. 버전 0613을 지원하지 않는 위치에 배포하는 경우 더 낮은 버전으로 전환해야합니다. 다른 지역에서 어떤 버전이 지원되는지 알아 보려면 GPT-35 터보 모델 가용성 페이지를 방문하십시오.
문서를 업로드 할 수있는 관리자 사이트로 이동하십시오. 다음에 위치합니다.
https://web-{RESOURCE_TOKEN}-admin.azurewebsites.net/
여기서 {RESOURCE_TOKEN} 배포 중에 고유하게 생성됩니다. 이것은 구독과 리소스 그룹의 이름의 조합입니다. 그런 다음 데이터 수집을 선택하고 데이터를 추가하십시오. /data 디렉토리에서 샘플 데이터를 찾을 수 있습니다.
웹 앱으로 이동하여 데이터 위에서 채팅을 시작하십시오. 웹 앱은 다음에서 찾을 수 있습니다.
https://web-{RESOURCE_TOKEN}.azurewebsites.net/
이 솔루션 가속기는 다음 리소스를 배포합니다. 각각의 기능을 이해하는 것이 중요합니다. 다음은 해당 문서에 대한 링크입니다.
이 저장소는 MIT 라이센스에 따라 라이센스가 부여됩니다.
/데이터 폴더 아래의 데이터 세트는 CDLA-Permissive-2 라이센스에 따라 라이센스가 부여됩니다.
이 소프트웨어에는 아래에 확인 된 별도의 독점 또는 오픈 소스 라이센스로 관리되는 타사 구성 요소를 사용해야하며 소프트웨어를 사용하려면 해당 라이센스의 조건을 준수해야합니다. 귀하는이 라이센스가 귀하에게 그러한 제 3 자 독점 또는 오픈 소스 구성 요소를 사용할 수있는 라이센스 또는 기타 권리를 부여하지 않음을 인정하고 동의합니다.
소프트웨어에 Microsoft Azure Services ( "Microsoft 제품 및 서비스")를 포함하여 Microsoft 제품 또는 서비스에서 사용되거나 Microsoft 제품 또는 서비스에서 파생 된 구성 요소 또는 코드가 포함 된 한, 귀하는 이러한 Microsoft 제품 및 서비스에 적용 가능한 제품 용어를 준수해야합니다. 귀하는 소프트웨어를 통치하는 라이센스가 귀하에게 Microsoft 제품 및 서비스를 사용할 수있는 라이센스 또는 기타 권리를 부여하지 않음을 인정하고 동의합니다. 라이센스 나이 readme 파일의 어느 것도 Microsoft 제품 및 서비스에 대한 제품 용어의 용어를 대체, 수정, 종료 또는 수정하는 데 도움이되지 않습니다.
또한 목적지, 최종 사용자 및 최종 사용에 대한 제한을 포함하여 소프트웨어에 적용되는 모든 국내 및 국제 수출법 및 규정을 준수해야합니다. 내보내기 제한에 대한 자세한 내용은 https://aka.ms/exporting을 방문하십시오.
귀하는 소프트웨어 및 Microsoft 제품 및 서비스 (1) 의료 기기 (들)로 설계, 의도 또는 제공되지 않았으며 (2) 전문 의료 조언, 진단, 치료 또는 판단을 대체 할 수 있도록 설계되거나 의도되지 않으며 전문 의료 조언, 진단, 치료 또는 판단을 대체하거나 대체하는 데 사용해서는 안된다는 것을 인정합니다. 고객은 고객의 온라인 서비스 구현을위한 최종 사용자에 대한 적절한 동의, 경고, 면책 조항 및 승인을 표시 및/또는 얻을 책임이 있습니다.
귀하는 소프트웨어가 SOC 1 및 SOC 2 준수 감사의 적용을받지 않는다는 것을 인정합니다. 소프트웨어를 포함한 Microsoft 기술이나 그 구성 요소 기술은 공인 금융 서비스 전문가의 전문적인 조언, 의견 또는 판단을 대신하거나 제공하지 않습니다. 소프트웨어를 사용하여 전문적인 재정 조언이나 판단을 대체, 대체 또는 제공하지 마십시오.
소프트웨어에 액세스하거나 사용함으로써, 귀하는 소프트웨어가 서비스 중단, 결함, 오류 또는 기타 실패로 인해 소프트웨어의 사망 또는 심각한 신체적 손상 (집단적으로“고위험 용도”)을 초래할 수있는 사용을 지원하기위한 것이 아니라는 것을 인정합니다. (집단적으로,“고위험 사용”), 중단, 오류의 다른 실패, 또는 다른 환경의 실패가 아닌 경우, 소프트웨어의 실패, 다른 환경의 실패를 보장 할 수 있습니다. 일반적으로 또는 특정 산업에서 합리적, 적절하며 합법적 인 수준보다 낮습니다. 소프트웨어에 액세스함으로써 소프트웨어의 고위험 사용이 귀하의 위험에 처해 있음을 인정합니다.
