Amazon Bedrock を使用して商品説明を生成するためのガイダンス

Bedrock を使用した製品説明の生成

このソリューションには、サーバーレス バックエンドと ReactJS フロントエンド アプリケーションが含まれており、画像とテキスト入力から製品説明を作成し、新しいマネージド生成 AI サービスである Amazon Bedrock を使用して製品説明を強化および翻訳します。

目次

1. 概要
   • 料金
2. 前提条件
3. 導入手順
4. 導入の検証
5. ガイダンスの実行
6. 次のステップ
7. 掃除
8. 追加の考慮事項と制限事項

概要

小売業では多くの場合、何千、何百万もの商品があり、そのすべてに正確かつ効果的な説明が必要です。小売業者は多くの場合、これらの製品の既存のメタデータや画像を生成 AI モデルへの入力として提供することで、製品説明の作成プロセスを大幅に加速できます。

1. クライアントは、入力データ (製品画像または強化する基本的な製品説明) を含むリクエストを Amazon API Gateway REST API に送信します。
2. Amazon API Gateway は、プロキシ統合を通じてリクエストを AWS Lambda に渡します。
3. 製品画像入力を操作する場合、AWS Lambda は Amazon Rekognition を呼び出します。Amazon Rekognition は、機械学習を使用して画像内のオブジェクトを検出します。検出されたオブジェクトの説明を後続のステップに入力して、製品の説明を作成できます。
4. AWS Lambda は、Amazon Titan 言語モデルなど、Amazon Bedrock によってホストされている大規模言語モデル (LLM) を呼び出して、製品説明を生成します。 LLM は、既存の基本的なテキストの説明を拡張したり、Amazon Rekognition によって検出されたオブジェクトに基づいて新しい説明を生成したりできます。
5. AWS Lambda は応答を Amazon API Gateway に渡します。
6. 最後に、Amazon API Gateway は HTTP 応答をクライアントに返します。

料金

このガイダンスの実行中に使用される AWS サービスの費用はお客様の負担となります。 2023 年 11 月の時点で、米国東部 (バージニア北部) でデフォルト設定でこのガイダンスを実行する場合のコストは、毎月 1,000 個の製品を処理する場合、月額約 86 ドルです。

このガイダンスには、AWS サービス Rekognition、Bedrock、Cognito、Lambda、API Gateway、CloudWatch が含まれており、料金は次のとおりです。

• Rekognition: 画像あたり 0.001 ドル (最初の 100 万枚の画像)
• 岩盤：モデルによって異なります。たとえば、Claude Instant は 1000 入力トークンあたり 0.00163 ドル、1000 出力トークンあたり 0.00551 ドルです。AI21 ジュラシック モデルは 1000 入出力トークンあたり 0.0125 ドルです。
• Cognito: 50,000 ユーザーまでは無料 (それ以降は月間アクティブ ユーザーあたり 0.0055 ドル)
• API ゲートウェイ: 100 万リクエストあたり 3.50 ドル
• Lambda: 最悪の場合の継続時間が 30 秒であると仮定した場合、このガイダンスでは 1 GB 秒あたり 0.0000166667 ドル、または呼び出しごとに 0.0005 ドル
• CloudWatch ログ: 収集 1 GB あたり 0.50 ドル、保存 1 GB あたり月額 0.03 ドル

控えめに（過大評価の誤りですが）このソリューションを使用して、入力画像に基づいて製品説明を月に 1000 回生成し（スペイン語、ドイツ語、フランス語への翻訳の生成を含む）、Lambda 関数の呼び出しごとに 30 秒という最悪のケースを想定します。 Claude Instant および Jurassic モデルへのすべての呼び出しに対して 1000 入出力トークンの場合、コストはおよそ次のようになります。

• 認識: 画像あたり 0.001 ドル * 1000 枚の画像 = 1.00 ドル
• Bedrock: クロード インスタントへの通話あたり $0.00163 + $0.00551 * 1000 通話 = $7.14 および Jurassic への通話あたり $0.0125 * 2 * 1000 通話 * 3 言語 = $75
• コグニート: 無料
• API ゲートウェイ: 100 万回の呼び出しあたり 3.50 ドル * 合計呼び出し 5000 回 = 0.0175 ドル
• Lambda: 呼び出しごとに 0.0005 ドル * 合計呼び出し 5000 回 = 2.50 ドル
• CloudWatch ログ: 保守的に 1 GB が収集されると想定し、最初の 1 か月の費用は約 0.53 ドルとなります。
• 合計: 月額 1,000 回使用で月額 86 ドル (翻訳が無効になっている場合は月額 11 ドルのみ)

前提条件

すべての前提条件をローカル マシンにインストールする必要があります。

1. Python 3.8以降
2. Node.js と npm
3. ここに記載されているように、AWS CDK Toolkit ( cdkコマンド) をインストールします。ここで説明したように、これまでアカウントで CDK を使用したことがない場合は、 cdk bootstrapを実行する必要もあります。
4. AWS CLI
5. CDK が Lambda コードを必要な Python 依存関係とともにパッケージ化できるようにするには、Docker が必要です
6. プロジェクトは、上記の前提条件を満たす macOS、Linux、または Windows 環境で動作するはずですが、プロジェクトは macOS と Linux でテストされています。一部のコマンドおよびユーティリティ スクリプトは、Bash シェル環境を前提としています。
7. ここに記載されているように、Claude Instant、Stable Diffusion SDXL0.8、および AI21 Jurassic-2 Mid を Bedrock で有効にする必要があります

注: Docker がインストールされ、実行されている必要があります。 docker psのようなコマンドがエラーなしで実行されることを確認することで、Docker デーモンが実行されていることを確認できます。コンテナが実行されていない場合、 docker ps次のようにコンテナの空のリストを返す必要があります。

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

導入手順

1. AWS Cloud9 で EC2 環境を作成し、EC2 インスタンスをパブリック サブネットで起動し、そのパブリック IPv4 アドレス (#cloud9_ec2_ip) を書き留めます。

2. 環境 (ステップ 1 で作成) が使用する EBS ボリュームのサイズを少なくとも 20 GB に変更します。 t2.micro にはデフォルトで 10GB が付属しています。

3. リポジトリのクローンを作成します。

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd でリポジトリ フォルダーに移動します。

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (オプション) プロジェクト固有の依存関係用に新しい Python virtualenv を作成します。

    python -m venv .env && source .env/bin/activate
   

6. CDK の依存関係をインストールします。

    pip install -r deployment/requirements.txt
   

7. AWS CDK のブートストラップ (これまでに行っていない場合):

    cd deployment && cdk bootstrap
   

8. バックエンドをデプロイします。

    cd deployment && cdk deploy
   

9. cd でプロジェクトのルートに戻ります。

    cd ..
   

10. 初期 Cognito ユーザーを作成します。

     deployment/create-user.sh <>
    

11. CDK スタック出力からの適切な値でconfig.js更新します。これは、次のコマンドを実行すると自動的に実行できます。

     deployment/update-config.sh
    

12. フロントエンドの依存関係をインストールします。

     cd source/frontend && npm install
    

13. サンプル クライアント アプリを実行し、Webpack がリッスンするポート番号 (#web_port) を書き留めます。 8080。

     npm start
    

14. ステップ 1 で作成した EC2 のセキュリティ グループを開き、カスタム TCP、ポート範囲 #web_port、ソース「My IP」を許可する受信ルールを追加して、ルールを保存します。

導入の検証

上記のコマンドがすべてエラーなしで完了すると、デプロイは成功するはずです。作成されたバックエンド リソースを参照するには、AWS コンソールで CloudFormation サービスに移動し、 LambdaStackという名前のスタックを見つけて、そのリソースを参照します。

ガイダンスの実行

次の手順に従って、デモ Web アプリを試すことができます。

1. 一時的なパスワードについてはメールを確認してください
2. #cloud9_public_ip:#web_port でローカル ブラウザからアプリにアクセスします
3. プロンプトに従ってログインし、パスワードを変更します
4. 画像から製品説明を作成するには (デフォルト モード)、製品またはオブジェクトの画像ファイルを参照します。
5. アップロードすると、製品の説明と複数の言語への翻訳が生成されます

次のステップ

Amazon Bedrock の使用に関する詳細リソースについては、Bedrock 製品ページを参照してください。

掃除

プロビジョニングされたインフラストラクチャは、次のコマンドを実行して削除できます。

 cd deployment && cdk destroy

追加の考慮事項と制限事項

• このプロジェクトでは、base64 でエンコードされた画像をイベント ペイロードを通じて Lambda 関数に渡すため、合計入力サイズは 6 MB に制限され、これにより入力画像のサイズが制限されます。
• Lambda と API Gateway プロキシの統合により、呼び出しあたりの処理時間が 29 秒に制限されるため、より大きな製品説明が生成されなくなる可能性があります。この制限は、API ゲートウェイの代わりに Lambda 関数 URL を介して応答をストリーミングするなどの代替アプローチを使用して克服できます。