Amazon Bedrock을 사용하여 제품 설명을 생성하기 위한 지침

Bedrock을 사용하여 제품 설명 생성

이 솔루션에는 서버리스 백엔드와 이미지 및 텍스트 입력에서 제품 설명을 생성하고 새로운 관리형 생성 AI 서비스인 Amazon Bedrock을 사용하여 제품 설명을 향상 및 번역하는 ReactJS 프런트 엔드 애플리케이션이 포함되어 있습니다.

목차

1. 개요
   • 비용
2. 전제조건
3. 배포 단계
4. 배포 검증
5. 지침 실행
6. 다음 단계
7. 대청소
8. 추가 고려 사항 및 제한 사항

개요

소매업체에는 수천 또는 수백만 개의 제품이 있는 경우가 많으며, 모든 제품에는 정확하고 효과적인 설명이 필요합니다. 소매업체는 제품 설명 작성 프로세스를 크게 가속화하기 위해 생성 AI 모델에 대한 입력으로 제공할 수 있는 이러한 제품에 대한 기존 메타데이터 또는 이미지를 보유하고 있는 경우가 많습니다.

1. 클라이언트는 입력 데이터(제품 이미지 또는 향상을 위한 기본 제품 설명)가 포함된 요청을 Amazon API Gateway REST API로 보냅니다.
2. Amazon API Gateway는 프록시 통합을 통해 AWS Lambda에 요청을 전달합니다.
3. 제품 이미지 입력에 대해 작업할 때 AWS Lambda는 기계 학습을 사용하여 이미지의 객체를 감지하는 Amazon Rekognition을 호출합니다. 그런 다음 감지된 개체에 대한 설명을 후속 단계에 입력하여 제품 설명을 작성할 수 있습니다.
4. AWS Lambda는 Amazon Titan 언어 모델과 같이 Amazon Bedrock에서 호스팅하는 LLM(대형 언어 모델)을 호출하여 제품 설명을 생성합니다. LLM은 기존 기본 텍스트 설명을 향상하거나 Amazon Rekognition에서 감지한 객체를 기반으로 새로운 설명을 생성할 수 있습니다.
5. AWS Lambda는 Amazon API Gateway에 응답을 전달합니다.
6. 마지막으로 Amazon API Gateway는 HTTP 응답을 클라이언트에 반환합니다.

비용

이 지침을 실행하는 동안 사용되는 AWS 서비스 비용은 귀하의 책임입니다. 2023년 11월 기준으로 미국 동부(버지니아 북부)에서 기본 설정으로 이 지침을 실행하는 데 드는 비용은 매월 1000개의 제품을 처리하는 데 드는 비용은 월 약 $86입니다.

이 지침에는 AWS 서비스 Rekognition, Bedrock, Cognito, Lambda, API Gateway 및 CloudWatch가 포함되며 비용은 다음과 같습니다.

• Rekognition: 이미지당 0.001 USD(처음 100만 개 이미지의 경우)
• 기반암: 모델에 따라 다릅니다. 예를 들어 Claude Instant는 입력 토큰 1000개당 $0.00163이고 출력 토큰 1000개당 $0.00551이며, AI21 Jurassic 모델은 입력/출력 토큰 1000개당 $0.0125입니다.
• Cognito: 최대 50,000명의 사용자에게 무료(이후 월간 활성 사용자당 $0.0055)
• API 게이트웨이: 요청 백만 개당 $3.50
• Lambda: 최악의 경우 30초 기간을 가정하여 이 지침에 대해 초당 GB당 $0.0000166667 또는 호출당 $0.0005
• CloudWatch 로그: 수집된 GB당 $0.50, 저장된 GB당 월 $0.03

보수적으로(과대평가하는 측면에서) 이 솔루션을 사용하여 입력 이미지를 기반으로 한 달에 1000번(스페인어, 독일어, 프랑스어로 번역 생성 포함) 제품 설명을 생성하고 Lambda 함수 호출당 최악의 경우 30초를 가정합니다. Claude Instant 및 Jurassic 모델에 대한 모든 호출에 대한 1000개의 입력/출력 토큰, 비용은 대략 다음과 같습니다.

• 인식: 이미지당 $0.001 * 이미지 1,000개 = $1.00
• Bedrock: $0.00163 + Claude Instant 호출당 $0.00551 * 1000회 호출 = $7.14 및 $0.0125 * Jurassic 호출당 2개 * 1000회 호출 * 3개 언어 = $75
• 코그니토: 무료
• API 게이트웨이: 백만 호출당 3.50 USD * 총 호출 5,000 = 0.0175 USD
• Lambda: 호출당 $0.0005 * 총 호출 5,000회 = $2.50
• CloudWatch 로그: 보수적으로 1GB를 수집한다고 가정하고 첫 달 비용은 약 0.53달러입니다.
• 총계: 월 1,000회 사용 시 월 $86(또는 번역이 비활성화된 경우 월 $11)

전제조건

로컬 머신에 모든 필수 구성 요소를 설치해야 합니다.

1. 파이썬 3.8 이상
2. Node.js 및 npm
3. 여기에 설명된 대로 AWS CDK 도구 키트( cdk 명령)를 설치합니다. 여기에 설명된 대로 이전에 계정에서 CDK를 사용한 적이 없다면 cdk bootstrap 실행해야 합니다.
4. AWS CLI
5. CDK가 필요한 Python 종속성과 함께 Lambda 코드를 패키징하도록 허용하려면 Docker가 필요합니다.
6. 프로젝트는 위의 전제 조건을 갖춘 모든 macOS, Linux 또는 Windows 환경에서 작동해야 하지만 프로젝트는 macOS 및 Linux에서 테스트되었습니다. 일부 명령 및 유틸리티 스크립트는 Bash 셸 환경을 가정합니다.
7. 여기에 문서화된 대로 Claude Instant, Stable Diffusion SDXL0.8 및 AI21 Jurassic-2 Mid를 Bedrock에서 활성화해야 합니다.

참고: Docker가 설치되어 실행 중이 어야 합니다. docker ps 와 같은 명령이 오류 없이 실행되는지 확인하여 Docker 데몬이 실행 중인지 확인할 수 있습니다. 실행 중인 컨테이너가 없으면 docker ps 다음과 같이 빈 컨테이너 목록을 반환해야 합니다.

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

배포 단계

1. AWS Cloud9에서 EC2 환경을 생성하고, 퍼블릭 서브넷에서 EC2 인스턴스를 시작한 다음 퍼블릭 IPv4 주소(#cloud9_ec2_ip)를 기록해 둡니다.

2. 환경(1단계에서 생성)이 사용하는 EBS 볼륨의 크기를 최소 20GB로 조정합니다. 기본적으로 t2.micro에는 10GB가 제공됩니다.

3. 저장소를 복제합니다.

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. repo 폴더로 CD를 이동합니다.

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (선택 사항) 프로젝트별 종속성을 위한 새로운 Python virtualenv를 만듭니다.

    python -m venv .env && source .env/bin/activate
   

6. CDK 종속성을 설치합니다.

    pip install -r deployment/requirements.txt
   

7. AWS CDK에 대한 부트스트래핑(이전에 수행되지 않은 경우):

    cd deployment && cdk bootstrap
   

8. 백엔드를 배포합니다.

    cd deployment && cdk deploy
   

9. CD를 사용하여 프로젝트 루트로 다시 이동합니다.

    cd ..
   

10. 초기 Cognito 사용자를 생성합니다:

     deployment/create-user.sh <>
    

11. CDK 스택 출력의 적절한 값으로 config.js 업데이트합니다. 이 작업은 다음을 실행하여 자동으로 수행할 수 있습니다.

     deployment/update-config.sh
    

12. 프런트엔드 종속성을 설치합니다.

     cd source/frontend && npm install
    

13. 샘플 클라이언트 앱을 실행하고 웹팩이 수신하는 포트 번호(#web_port)를 적어 둡니다. 8080.

     npm start
    

14. 1단계에서 생성한 EC2의 보안 그룹을 열고 사용자 지정 TCP, 포트 범위 #web_port, 소스 "내 IP"를 허용하는 인바운드 규칙을 추가한 다음 규칙을 저장합니다.

배포 검증

위 명령이 모두 오류 없이 완료되면 배포가 성공한 것입니다. AWS 콘솔에서 CloudFormation 서비스로 이동하여 LambdaStack 이라는 스택을 찾고 해당 리소스를 검색하여 생성된 백엔드 리소스를 찾아볼 수 있습니다.

지침 실행

다음 단계에 따라 데모 웹 앱을 사용해 볼 수 있습니다.

1. 이메일에서 임시 비밀번호를 확인하세요
2. #cloud9_public_ip:#web_port의 로컬 브라우저에서 앱에 액세스하세요.
3. 안내에 따라 로그인하고 비밀번호를 변경하세요.
4. 이미지(기본 모드)에서 제품 설명을 만들려면 일부 제품이나 개체에 대한 이미지 파일을 찾아보세요.
5. 업로드되면 제품 설명과 여러 언어로의 번역이 생성됩니다.

다음 단계

Amazon Bedrock 사용에 대한 자세한 리소스는 Bedrock 제품 페이지를 참조하세요.

대청소

다음 명령을 실행하여 프로비저닝된 인프라를 삭제할 수 있습니다.

 cd deployment && cdk destroy

추가 고려 사항 및 제한 사항

• 이 프로젝트는 이벤트 페이로드를 통해 base64로 인코딩된 이미지를 Lambda 함수에 전달하기 때문에 총 입력 크기가 6MB로 제한되어 입력 이미지의 크기가 제한됩니다.
• Lambda 및 API Gateway 프록시 통합은 처리 시간을 호출당 29초로 제한하므로 더 큰 제품 설명이 생성되지 않을 수 있습니다. API 게이트웨이 대신 Lambda 함수 URL을 통한 스트리밍 응답과 같은 대체 접근 방식을 사용하면 이러한 제한을 극복할 수 있습니다.