使用亞馬遜基岩生成產品描述的指南

使用 Bedrock 產生產品描述

該解決方案包含無伺服器後端和 ReactJS 前端應用程序，該應用程式根據圖像和文字輸入建立產品描述，並使用新的託管生成 AI 服務 Amazon Bedrock 增強和翻譯產品描述。

目錄

1. 概述
   • 成本
2. 先決條件
3. 部署步驟
4. 部署驗證
5. 運行指南
6. 下一步
7. 清理
8. 其他注意事項和限制

概述

零售企業通常擁有數千或數百萬種產品，所有這些產品都需要準確有效的描述。零售商通常擁有這些產品的現有元資料或圖像，可以將其作為生成人工智慧模型的輸入，以大大加快創建產品描述的過程。

1. 用戶端向 Amazon API Gateway REST API 發送包含輸入資料（產品圖像或要增強的基本產品描述）的請求。
2. Amazon API Gateway 透過代理整合將請求傳遞給 AWS Lambda。
3. 在對產品影像輸入進行操作時，AWS Lambda 會呼叫 Amazon Rekognition，後者使用機器學習來偵測影像中的物件。然後可以將偵測到的物件的描述輸入到後續步驟中以建立產品描述。
4. AWS Lambda 呼叫 Amazon Bedrock 託管的大型語言模型 (LLM)（例如 Amazon Titan 語言模型）來產生產品描述。 LLM 可以增強現有的基本文字描述，也可以根據 Amazon Rekognition 偵測到的物件產生新的描述。
5. AWS Lambda 將回應傳遞給 Amazon API Gateway。
6. 最後，Amazon API Gateway 將 HTTP 回應傳回給客戶端。

成本

您負責執行本指南時使用的 AWS 服務的費用。截至 2023 年 11 月，在美國東部（弗吉尼亞北部）以預設設定運行本指南的成本約為每月 86 美元，每月處理 1000 種產品。

本指南包括 AWS 服務 Rekognition、Bedrock、Cognito、Lambda、API Gateway 和 CloudWatch，費用如下：

• Rekognition：每張圖像 0.001 美元（前一百萬張圖像）
• 基岩：取決於型號。例如，Claude Instant 每 1000 個輸入代幣為 0.00163 美元，每 1000 個輸出代幣為 0.00551 美元，AI21 Jurassic 模型為每 1000 個輸入/輸出代幣 0.0125 美元
• Cognito：最多 5 萬用戶免費（此後每月活躍用戶 0.0055 美元）
• API 閘道：每百萬個請求 3.50 美元
• Lambda：本指南假設最壞情況持續時間為 30 秒，每 GB 秒 0.0000166667 USD 或每次呼叫 0.0005 USD
• CloudWatch 日誌：收集每 GB 0.50 USD，儲存每 GB 每月 0.03 USD

保守地（寧可高估），使用此解決方案每月根據輸入圖像生成產品描述 1000 次（包括生成西班牙語、德語和法語的翻譯），並假設最壞的情況是每次 Lambda 函數調用 30 秒，所有對Claude Instant 和Jurassic 模型的呼叫需要1000 個輸入/輸出令牌，成本大約如下：

• Rekognition：每張圖像 0.001 美元 * 1000 張圖像 = 1.00 美元
• 基岩版：每次調用 Claude Instant * 0.00163 美元 + 0.00551 美元 * 1000 次調用 = 7.14 美元和 0.0125 美元 * 每次調用 Jurassic 2 次 * 1000 次調用 * 3 種語言 = 75 美元 * 每次調用 Jurassic 2 次 * 1000 次調用 * 3 種語言 = 75 美元
• 認知：免費
• API 閘道：每百萬次呼叫 3.50 美元 * 5000 次總呼叫 = 0.0175 美元
• Lambda：每次呼叫 0.0005 USD * 5000 次總呼叫 = 2.50 USD
• CloudWatch 日誌：保守地假設收集 1 GB，第一個月的費用約為 0.53 美元
• 總計：每月 86 美元，每月使用 1000 次（如果禁用翻譯，每月只需 11 美元）

先決條件

您需要在本機上安裝所有先決條件：

1. Python 3.8 或更高版本
2. Node.js 和 npm
3. 請依照此處所述安裝 AWS CDK Toolkit（ cdk指令）。如果您之前沒有在您的帳戶中使用過 CDK，那麼您還需要執行cdk bootstrap （如此處所述）。
4. AWS CLI
5. 需要 Docker 來允許 CDK 將 Lambda 程式碼與必要的 Python 依賴項打包在一起
6. 該專案應在滿足上述先決條件的任何 macOS、Linux 或 Windows 環境中運行，但該專案已在 macOS 和 Linux 中進行了測試。某些命令和實用程式腳本假定 Bash shell 環境。
7. 必須在基岩中啟用 Claude Instant、Stable Diffusion SDXL0.8 和 AI21 Jurassic-2 Mid，如這裡所述

注意： Docker 必須安裝並運行。您可以透過確保docker ps等命令運行時沒有錯誤來確保 Docker 守護程序正在運行。如果沒有容器正在運行，那麼docker ps應該會傳回一個空的容器列表，如下所示：

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

部署步驟

1. 在 AWS Cloud9 中建立 EC2 環境，將 EC2 執行個體啟動到公有子網路中，並記下其公有 IPv4 位址 (#cloud9_ec2_ip)。

2. 將環境（在步驟 1 中建立）使用的 EBS 磁碟區大小調整為至少 20GB。預設情況下，t2.micro 配備 10GB。

3. 克隆儲存庫：

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd 到 repo 資料夾：

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. （可選）為專案特定的依賴項建立一個新的 Python virtualenv：

    python -m venv .env && source .env/bin/activate
   

6. 安裝CDK相依性：

    pip install -r deployment/requirements.txt
   

7. AWS CDK 的引導（如果之前尚未完成）：

    cd deployment && cdk bootstrap
   

8. 部署後端：

    cd deployment && cdk deploy
   

9. cd 回傳專案根目錄：

    cd ..
   

10. 建立初始 Cognito 使用者：

     deployment/create-user.sh <>
    

11. 使用 CDK 堆疊輸出中的適當值更新config.js 。這可以透過運行自動完成

     deployment/update-config.sh
    

12. 安裝前端相依性：

     cd source/frontend && npm install
    

13. 執行範例客戶端應用程序，並記下 webpack 偵聽的連接埠號碼 (#web_port)，例如。 8080。

     npm start
    

14. 開啟步驟 1 中建立的 EC2 的安全性群組，新增入站規則，允許自訂 TCP、連接埠範圍 #web_port、來源“我的 IP”，然後儲存規則。

部署驗證

如果上述所有命令都完成且沒有錯誤，則部署應該會成功。您可以透過導覽至 AWS 控制台中的 CloudFormation 服務、尋找名為LambdaStack堆疊並瀏覽其資源來瀏覽建立的後端資源。

運行指南

您可以按照以下步驟嘗試示範 Web 應用程式：

1. 檢查您的電子郵件以取得臨時密碼
2. 從本機瀏覽器存取該應用程式#cloud9_public_ip:#web_port
3. 依照提示登入並變更密碼
4. 若要從圖像建立產品描述（預設模式），請瀏覽某些產品或物件的圖像文件
5. 上傳後，將產生產品描述和多種語言的翻譯

下一步

請參閱 Bedrock 產品頁面，以了解有關使用 Amazon Bedrock 的更多資源。

清理

可以透過執行以下命令刪除已配置的基礎架構：

 cd deployment && cdk destroy

其他注意事項和限制

• 由於該項目透過事件負載將 Base64 編碼的圖像傳遞到 Lambda 函數中，因此總輸入大小限制為 6 MB，這限制了輸入圖像的大小。
• Lambda 和 API Gateway 代理整合將每次呼叫的處理時間限制為 29 秒，這可能會阻止產生更大的產品描述。可以使用替代方法來克服此限制，例如透過 Lambda 函數 URL 而不是 API 閘道來串流回應。