generative ai cdk constructs samples
1.0.0
이 리포지토리에서는 AWS Generative AI CDK Constructs를 사용하여 자체 Generative AI 솔루션을 구축하는 방법을 보여주는 샘플을 제공합니다.
사용 사례 | 설명 | 유형 | 언어 |
---|---|---|---|
문서 탐색기 | 이 샘플은 사용자가 문서를 기술 자료에 수집한 다음 해당 문서에 대해 요약하고 질문할 수 있는 엔드투엔드 환경을 제공합니다. | 백엔드 + 프론트엔드 | 백엔드용 TypeScript, 프런트엔드용 Python(Streamlit) |
콘텐츠 생성 | 이 샘플은 사용자가 Amazon titan-image-generator-v1 또는 Stability stable-diffusion-xl 모델을 사용하여 텍스트에서 이미지를 생성할 수 있는 엔드 투 엔드 환경을 제공합니다. | 백엔드 + 프론트엔드 | 백엔드용 TypeScript, 프런트엔드용 Python(Streamlit) |
이미지 설명 | 이 샘플은 사용자가 업로드된 이미지에 대한 설명 텍스트를 생성할 수 있는 엔드투엔드 환경을 제공합니다. | 백엔드 + 프론트엔드 | 백엔드용 TypeScript, 프런트엔드용 Python(Streamlit) |
SageMaker JumpStart 모델 | 이 샘플은 Amazon JumpStart의 Meta가 개발한 Llama 2 기반 모델을 호스팅하는 SageMaker 실시간 엔드포인트와 해당 엔드포인트에 대해 추론 요청을 실행하는 AWS Lambda 함수를 배포하는 샘플 애플리케이션을 제공합니다. | 백엔드 | 타입스크립트 |
SageMaker 포옹 얼굴 모델 | 이 샘플은 Hugging Face에서 모델(Mistral 7B)을 호스팅하는 SageMaker 실시간 엔드포인트를 배포하는 샘플 애플리케이션과 해당 엔드포인트에 대해 추론 요청을 실행하는 AWS Lambda 함수를 제공합니다. | 백엔드 | 타입스크립트 |
AWS Inferentia2의 SageMaker 포옹 얼굴 모델 | 이 샘플은 Hugging Face의 모델(Zephyr 7B)을 호스팅하는 SageMaker 실시간 엔드포인트와 해당 엔드포인트에 대해 추론 요청을 실행하는 AWS Lambda 함수를 배포하는 샘플 애플리케이션을 제공합니다. 이 샘플에서는 Inferentia 2를 하드웨어 가속기로 사용합니다. | 백엔드 | 타입스크립트 |
SageMaker 사용자 정의 엔드포인트 | 이 샘플은 Amazon Simple Storage Service(S3) 버킷에 저장된 아티팩트가 있는 모델을 호스팅하는 SageMaker 실시간 엔드포인트와 해당 엔드포인트에 대해 추론 요청을 실행하는 AWS Lambda 함수를 배포하는 샘플 애플리케이션을 제공합니다. 이 샘플에서는 Inferentia2를 하드웨어 가속기로 사용합니다. | 백엔드 | 타입스크립트 |
SageMaker 다중 모드 사용자 정의 엔드포인트 | 이 샘플은 Amazon Simple Storage Service(S3) 버킷에 저장된 아티팩트, 사용자 지정 추론 스크립트 및 추론 요청을 실행하기 위한 AWS Lambda 함수와 함께 llava-1.5-7b를 호스팅하는 SageMaker 실시간 엔드포인트를 배포하는 샘플 애플리케이션을 제공합니다. 그 끝점. | 백엔드 | 타입스크립트 |
SageMaker 이미지를 비디오 엔드포인트로 | 이 샘플은 Amazon Simple Storage Service(S3) 버킷, 사용자 지정 추론 스크립트 및 AWS Lambda에 저장된 아티팩트와 함께 stable-video-diffusion-img2vid-xt-1-1을 호스팅하는 SageMaker 비동기 엔드포인트를 배포하는 샘플 애플리케이션을 제공합니다. 해당 엔드포인트에 대해 추론 요청을 실행하는 함수입니다. | 백엔드 | 타입스크립트 |
GovCloud PDT의 SageMaker LLM | 이 샘플은 GovCloud PDT에서 Falcon-40b를 호스팅하는 SageMaker 실시간 엔드포인트를 배포하는 샘플 애플리케이션을 제공합니다. | 백엔드 | 타입스크립트 |
Amazon Bedrock 에이전트 | 이 샘플은 OpenSearch Serverless Collection이 지원하는 Amazon Bedrock 에이전트 및 기술 자료와 S3의 문서를 배포하는 샘플 애플리케이션을 제공합니다. Amazon Bedrock CDK 구성을 사용하는 방법을 보여줍니다. | 백엔드 | 타입스크립트 |
Python 샘플 | 이 프로젝트는 Python Package Index(PyPI)의 'generative-ai-cdk-constructs' 패키지 활용을 보여줍니다. | 백엔드 | 파이썬 |
.NET 샘플 | 이 프로젝트는 너겟 라이브러리의 'Cdklabs.GenerativeAiCdkConstructs' 패키지 활용을 보여줍니다. | 백엔드 | .그물 |
계약 준수 분석 | 이 프로젝트는 계약을 조항으로 분할하고, 조항 유형을 결정하고, 고객의 법률 지침에 대한 준수 여부를 평가하고, 준수 조항 수를 기반으로 전체 계약 위험을 평가하여 계약 분석을 자동화합니다. 이는 Amazon Bedrock을 통해 대규모 언어 모델을 활용하는 워크플로를 통해 달성됩니다. | 백엔드 + 프론트엔드 | 백엔드용 Python, 프런트엔드용 TypeScript(React) |
텍스트를 SQL로 | "Text To SQL" 생성 AI 샘플 애플리케이션 솔루션을 사용하면 사용자는 자연어 쿼리를 통해 데이터베이스와 상호 작용할 수 있으므로 광범위한 SQL 지식이 필요하지 않습니다. 이 애플리케이션은 Amazon Bedrock에 호스팅된 강력한 Anthropic Claude 3 모델을 활용하여 자연어 쿼리를 실행 가능한 SQL 문으로 원활하게 변환합니다. | 백엔드 + 프론트엔드 | 백엔드용 Python, 프런트엔드용 TypeScript(React) |
LlamaIndex 기본 데이터 로더 | "LlamaIndex 기본 데이터 로더" 생성 AI 샘플 애플리케이션 솔루션은 Generative AI CDK Constructs 패키지의 LlamaIndexDataLoader 보여줍니다. 기본 구현은 S3 파일 또는 디렉터리 로더를 사용하며 다른 LlamaHub 리더를 위해 확장될 수 있습니다. 이 솔루션은 LlamaIndex 문서를 다운스트림 소비자 생성 AI 솔루션에 사용할 수 있는 출력 S3으로 기대합니다. | 백엔드 | 파이썬 |
이 저장소에 기여하는 방법에 대한 자세한 내용은 CONTRIBUTING 문서를 참조하세요.