使用亚马逊基岩生成产品描述的指南

使用 Bedrock 生成产品描述

该解决方案包含无服务器后端和 ReactJS 前端应用程序，该应用程序根据图像和文本输入创建产品描述，并使用新的托管生成 AI 服务 Amazon Bedrock 增强和翻译产品描述。

目录

1. 概述
   • 成本
2. 先决条件
3. 部署步骤
4. 部署验证
5. 运行指南
6. 下一步
7. 清理
8. 其他注意事项和限制

概述

零售企业通常拥有数千或数百万种产品，所有这些产品都需要准确有效的描述。零售商通常拥有这些产品的现有元数据或图像，可以将其作为生成人工智能模型的输入，以大大加快创建产品描述的过程。

1. 客户端向 Amazon API Gateway REST API 发送包含输入数据（产品图像或要增强的基本产品描述）的请求。
2. Amazon API Gateway 通过代理集成将请求传递给 AWS Lambda。
3. 在对产品图像输入进行操作时，AWS Lambda 会调用 Amazon Rekognition，后者使用机器学习来检测图像中的对象。然后可以将检测到的对象的描述输入到后续步骤中以创建产品描述。
4. AWS Lambda 调用 Amazon Bedrock 托管的大型语言模型 (LLM)（例如 Amazon Titan 语言模型）来生成产品描述。 LLM 可以增强现有的基本文本描述，也可以根据 Amazon Rekognition 检测到的对象生成新的描述。
5. AWS Lambda 将响应传递给 Amazon API Gateway。
6. 最后，Amazon API Gateway 将 HTTP 响应返回给客户端。

成本

您负责运行本指南时使用的 AWS 服务的费用。截至 2023 年 11 月，在美国东部（弗吉尼亚北部）以默认设置运行本指南的成本约为每月 86 美元，每月处理 1000 种产品。

本指南包括 AWS 服务 Rekognition、Bedrock、Cognito、Lambda、API Gateway 和 CloudWatch，费用如下：

• Rekognition：每张图像 0.001 美元（前一百万张图像）
• 基岩：取决于型号。例如，Claude Instant 每 1000 个输入代币为 0.00163 美元，每 1000 个输出代币为 0.00551 美元，AI21 Jurassic 模型为每 1000 个输入/输出代币 0.0125 美元
• Cognito：最多 5 万用户免费（此后每月活跃用户 0.0055 美元）
• API 网关：每百万个请求 3.50 美元
• Lambda：本指南假设最坏情况持续时间为 30 秒，每 GB 秒 0.0000166667 USD 或每次调用 0.0005 USD
• CloudWatch 日志：收集每 GB 0.50 USD，存储每 GB 每月 0.03 USD

保守地（宁可高估），使用此解决方案每月根据输入图像生成产品描述 1000 次（包括生成西班牙语、德语和法语的翻译），并假设最坏的情况是每次 Lambda 函数调用 30 秒，对 Claude Instant 和 Jurassic 模型的所有调用需要 1000 个输入/输出令牌，成本大约如下：

• Rekognition：每张图像 0.001 美元 * 1000 张图像 = 1.00 美元
• 基岩版：每次调用 Claude Instant * 0.00163 美元 + 0.00551 美元 * 1000 次调用 = 7.14 美元和 0.0125 美元 * 每次调用 Jurassic 2 次 * 1000 次调用 * 3 种语言 = 75 美元
• 认知：免费
• API 网关：每百万次调用 3.50 美元 * 5000 次总调用 = 0.0175 美元
• Lambda：每次调用 0.0005 USD * 5000 次总调用 = 2.50 USD
• CloudWatch 日志：保守地假设收集 1 GB，第一个月的费用约为 0.53 美元
• 总计：每月 86 美元，每月使用 1000 次（如果禁用翻译，每月只需 11 美元）

先决条件

您需要在本地计算机上安装所有先决条件：

1. Python 3.8 或更高版本
2. Node.js 和 npm
3. 按照此处所述安装 AWS CDK Toolkit（ cdk命令）。如果您之前没有在您的帐户中使用过 CDK，那么您还需要运行cdk bootstrap （如此处所述）。
4. AWS CLI
5. 需要 Docker 来允许 CDK 将 Lambda 代码与必要的 Python 依赖项打包在一起
6. 该项目应在满足上述先决条件的任何 macOS、Linux 或 Windows 环境中运行，但该项目已在 macOS 和 Linux 中进行了测试。某些命令和实用程序脚本假定 Bash shell 环境。
7. 必须在基岩中启用 Claude Instant、Stable Diffusion SDXL0.8 和 AI21 Jurassic-2 Mid，如此处所述

注意： Docker 必须安装并运行。您可以通过确保docker ps等命令运行时没有错误来确保 Docker 守护进程正在运行。如果没有容器正在运行，那么docker ps应该返回一个空的容器列表，如下所示：

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

部署步骤

1. 在 AWS Cloud9 中创建 EC2 环境，将 EC2 实例启动到公有子网中，并记下其公有 IPv4 地址 (#cloud9_ec2_ip)。

2. 将环境（在步骤 1 中创建）使用的 EBS 卷大小调整为至少 20GB。默认情况下，t2.micro 配备 10GB。

3. 克隆存储库：

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd 到 repo 文件夹：

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. （可选）为项目特定的依赖项创建一个新的 Python virtualenv：

    python -m venv .env && source .env/bin/activate
   

6. 安装CDK依赖项：

    pip install -r deployment/requirements.txt
   

7. AWS CDK 的引导（如果之前尚未完成）：

    cd deployment && cdk bootstrap
   

8. 部署后端：

    cd deployment && cdk deploy
   

9. cd 返回项目根目录：

    cd ..
   

10. 创建初始 Cognito 用户：

     deployment/create-user.sh <>
    

11. 使用 CDK 堆栈输出中的适当值更新config.js 。这可以通过运行自动完成

     deployment/update-config.sh
    

12. 安装前端依赖项：

     cd source/frontend && npm install
    

13. 运行示例客户端应用程序，并记下 webpack 侦听的端口号 (#web_port)，例如。 8080。

     npm start
    

14. 打开步骤 1 中创建的 EC2 的安全组，添加入站规则，允许自定义 TCP、端口范围 #web_port、源“我的 IP”，然后保存规则。

部署验证

如果上述所有命令都完成且没有错误，则部署应该成功。您可以通过导航到 AWS 控制台中的 CloudFormation 服务、找到名为LambdaStack堆栈并浏览其资源来浏览创建的后端资源。

运行指南

您可以按照以下步骤尝试演示 Web 应用程序：

1. 检查您的电子邮件以获取临时密码
2. 从本地浏览器访问该应用程序#cloud9_public_ip:#web_port
3. 按照提示登录并更改密码
4. 要从图像创建产品描述（默认模式），请浏览某些产品或对象的图像文件
5. 上传后，将生成产品描述和多种语言的翻译

下一步

请参阅 Bedrock 产品页面，了解有关使用 Amazon Bedrock 的更多资源。

清理

可以通过运行以下命令删除已配置的基础架构：

 cd deployment && cdk destroy

其他注意事项和限制

• 由于该项目通过事件负载将 Base64 编码的图像传递到 Lambda 函数中，因此总输入大小限制为 6 MB，这限制了输入图像的大小。
• Lambda 和 API Gateway 代理集成将每次调用的处理时间限制为 29 秒，这可能会阻止生成更大的产品描述。可以使用替代方法来克服此限制，例如通过 Lambda 函数 URL 而不是 API 网关来流式传输响应。