단순화된 교정 걸레

Amazon Bedrock을 사용하여 단순화된 Corrective RAG 도우미 구축

개요

Amazon Bedrock은 통합 API를 통해 선도적인 AI 스타트업과 Amazon의 고성능 기반 모델(FM)을 사용할 수 있도록 하는 완전 관리형 서비스입니다. 다양한 기본 모델 중에서 선택하여 사용 사례에 가장 적합한 모델을 찾을 수 있습니다. Amazon Bedrock은 또한 보안, 개인 정보 보호 및 책임 있는 AI를 갖춘 생성적 AI 애플리케이션을 구축할 수 있는 광범위한 기능 세트를 제공합니다. Amazon Bedrock을 사용하면 사용 사례에 대한 최고의 기반 모델을 쉽게 실험 및 평가하고, 미세 조정 및 RAG(검색 증강 생성)와 같은 기술을 사용하여 데이터로 해당 모델을 비공개로 사용자 지정하고, 엔터프라이즈 시스템을 사용하여 작업을 실행하는 에이전트를 구축할 수 있습니다. 그리고 데이터 소스.

LLM(대형 언어 모델)은 생성된 텍스트의 정확성이 캡슐화하는 매개변수적 지식만으로는 보장될 수 없기 때문에 필연적으로 환각을 나타냅니다. 검색 증강 생성(RAG)은 LLM을 실질적으로 보완하지만 검색된 문서의 관련성에 크게 의존하므로 검색이 잘못될 경우 모델이 어떻게 작동하는지에 대한 우려를 불러일으킵니다.

생성의 견고성을 향상시키기 위해 Corrective RAG와 같은 고급 RAG 기술이 제안되었습니다. CRAG에서 경량 검색 평가기는 쿼리에 대해 검색된 문서의 전반적인 품질을 평가하고 다양한 지식 검색 작업이 트리거될 수 있는 신뢰도를 반환하도록 설계되었습니다. 정적이고 제한된 말뭉치로부터의 검색은 최적이 아닌 문서만을 반환할 수 있기 때문에 대규모 웹 검색은 검색 결과를 늘리기 위한 확장으로 활용됩니다. CRAG는 플러그 앤 플레이 방식이며 다양한 RAG 기반 접근 방식과 원활하게 결합될 수 있습니다.

이 저장소에는 단순화된 CRAG 기반 도우미를 구축하는 과정을 안내하는 코드가 포함되어 있습니다. 검색 단계에 대한 두 가지 시나리오를 다룹니다.

1. (시나리오 1) 지정된 쿼리와 밀접하게 일치하는 문서가 기술 자료에 있습니다.
2. (시나리오 2) 지정된 쿼리와 밀접하게 일치하는 문서가 기술 자료에 없습니다. 결과적으로 일치하는 문서를 검색하기 위해 웹 검색이 수행됩니다.

시작하려면

1. 사용할 AWS 계정을 선택하고 해당 계정에 모든 리소스를 생성하십시오.
2. Anthropic Claude 3 및 Titan Embeddings G1 - 텍스트 모델을 갖춘 Amazon Bedrock이 있는 AWS 지역을 식별합니다.
3. 해당 리전에서 다음 파일을 원하는 신규 또는 기존 Amazon S3 버킷에 복사합니다. AWS CloudFormation에서 이 버킷을 읽을 수 있는지 확인하세요.
   • wikipedia_search_bedrock_agent.zip
4. 다음 절차를 사용하여 py312_opensearch-py_requests_and_requests-aws4auth.zip 이라는 Lambda 계층 파일을 생성하고 3단계와 동일한 Amazon S3 버킷에 업로드합니다.
   • Windows 10 이상:
     1. Python 3.12 및 pip가 설치되어 있고 사용자의 PATH 변수에 설정되어 있는지 확인하세요.
     2. 7-zip을 다운로드하여 C:/Program Files/7-Zip/ 에 설치합니다.
     3. Windows 명령 프롬프트를 엽니다.
     4. 새 디렉터리를 만들고 그 cd 로 들어갑니다.
     5. 해당 디렉터리 내부에서 Lambda_layer_file_create.bat를 실행합니다.
     6. 그러면 py312_opensearch-py_requests_and_requests-aws4auth.zip 이라는 Lambda 계층 파일이 생성됩니다.
   • 리눅스의 경우:
     1. Python 3.12 및 pip가 설치되어 있고 사용자의 PATH 변수에 설정되어 있는지 확인하세요.
     2. Linux 명령 프롬프트를 엽니다.
     3. 새 디렉터리를 만들고 그 cd 로 들어갑니다.
     4. 해당 디렉터리 내부에서 Lambda_layer_file_create.sh를 실행합니다.
     5. 그러면 py312_opensearch-py_requests_and_requests-aws4auth.zip 이라는 Lambda 계층 파일이 생성됩니다.
5. 제공된 AWS CloudFormation 템플릿 단순화-교정-rag-cfn.yaml을 가져와 다음 매개변수를 업데이트합니다.
   • 배포ArtifactsS3BucketName - 3단계의 Amazon S3 버킷 이름으로 설정합니다.
6. 업데이트된 템플릿을 사용하여 AWS CloudFormation 스택을 생성합니다.
7. Amazon SageMaker 노트북 인스턴스 콘솔로 이동한 후 단순화된-crag-instance 인스턴스에서 Open Jupyter 링크를 클릭하여 단순화된-수정-rag.ipynb 라는 Jupyter 노트북을 엽니다.

저장소 구조

• AWS CloudFormation 템플릿과 종속 아티팩트가 포함된 자산 폴더입니다.
• 웹 검색을 수행하기 위해 Bedrock 에이전트가 호출할 AWS Lambda 함수에 대한 Python 코드입니다. 이는 또한 종속 아티팩트로 이 파일에 압축되어 있습니다.
• 작업할 Jupyter 노트북과 관련된 모든 아티팩트가 포함된 노트북 폴더입니다.

보안

자세한 내용은 기여를 참조하세요.

특허

이 라이브러리는 MIT-0 라이선스에 따라 라이선스가 부여됩니다. 라이센스 파일을 참조하십시오.