conseils pour générer des descriptions de produits avec le substratum amazonien

Générer des descriptions de produits avec Bedrock

Cette solution contient un backend sans serveur et une application frontale ReactJS qui crée des descriptions de produits à partir d'images et de saisie de texte, améliore et traduit les descriptions de produits à l'aide du nouveau service d'IA générative géré, Amazon Bedrock.

Table des matières

1. Aperçu
   • Coût
2. Conditions préalables
3. Étapes de déploiement
4. Validation du déploiement
5. Exécution du guidage
6. Prochaines étapes
7. Nettoyage
8. Considérations et limites supplémentaires

Aperçu

Les commerces de détail proposent souvent plusieurs milliers, voire millions de produits, qui nécessitent tous des descriptions précises et efficaces. Les détaillants disposent souvent de métadonnées ou d'images existantes pour ces produits qui peuvent être fournies comme entrées dans des modèles d'IA génératifs afin d'accélérer considérablement le processus de création de descriptions de produits.

1. Le client envoie une demande comprenant des données d'entrée (soit une image de produit, soit une description de base du produit à améliorer) à l'API REST d'Amazon API Gateway.
2. Amazon API Gateway transmet la demande à AWS Lambda via une intégration de proxy.
3. Lorsqu'il opère sur des entrées d'image de produit, AWS Lambda appelle Amazon Rekognition, qui utilise l'apprentissage automatique pour détecter les objets dans l'image. Les descriptions des objets détectés peuvent ensuite être intégrées aux étapes suivantes pour créer une description de produit.
4. AWS Lambda appelle des modèles de langage étendus (LLM) hébergés par Amazon Bedrock, tels que les modèles de langage Amazon Titan, pour produire des descriptions de produits. Les LLM peuvent soit améliorer les descriptions textuelles de base existantes, soit générer de nouvelles descriptions basées sur les objets détectés par Amazon Rekognition.
5. AWS Lambda transmet la réponse à Amazon API Gateway.
6. Enfin, Amazon API Gateway renvoie la réponse HTTP au client.

Coût

Vous êtes responsable du coût des services AWS utilisés lors de l'exécution de ce guide. En novembre 2023, le coût d'exécution de ce guide avec les paramètres par défaut dans la région USA Est (Virginie du Nord) était d'environ 86 $ par mois pour le traitement de 1 000 produits chaque mois.

Ces conseils incluent les services AWS Rekognition, Bedrock, Cognito, Lambda, API Gateway et CloudWatch avec les coûts suivants :

• Reconnaissance : 0,001 $ par image (pour le premier million d'images)
• Substrat rocheux : Cela dépend du modèle. Claude Instant, par exemple, coûte 0,00163 $ pour 1 000 jetons d'entrée et 0,00551 $ pour 1 000 jetons de sortie, et le modèle AI21 Jurassic coûte 0,0125 $ pour 1 000 jetons d'entrée/sortie.
• Cognito : gratuit jusqu'à 50 000 utilisateurs (0,0055 $ par utilisateur actif mensuel par la suite)
• API Gateway : 3,50 $ par million de requêtes
• Lambda : 0,0000166667 $ par Go par seconde ou 0,0005 $ par appel pour ce guide en supposant une durée de 30 s dans le pire des cas
• Journaux CloudWatch : 0,50 $ par Go collecté, 0,03 $ par mois et par Go stocké

De manière prudente (en péchant par excès de surestimation), en utilisant cette solution pour générer des descriptions de produits basées sur des images d'entrée 1 000 fois par mois (y compris en générant des traductions en espagnol, allemand et français), et en supposant un pire des cas de 30 s par appel de fonction Lambda et 1000 jetons d'entrée/sortie pour tous les appels vers les modèles Claude Instant et Jurassic, les coûts seraient approximativement les suivants :

• Reconnaissance : 0,001 $ par image * 1 000 images = 1,00 $
• Bedrock : 0,00163 $ + 0,00551 $ par appel vers Claude Instant * 1 000 appels = 7,14 $ et 0,0125 $ * 2 par appel vers Jurassic * 1 000 appels * 3 langues = 75 $
• Cognito : gratuit
• API Gateway : 3,50 $ par million d'appels * 5 000 appels au total = 0,0175 $
• Lambda : 0,0005 $ par appel * 5 000 appels au total = 2,50 $
• Journaux CloudWatch : supposons prudemment que 1 Go est collecté, ce qui coûte environ 0,53 $ pour le premier mois.
• TOTAL : 86 $ par mois avec 1 000 utilisations par mois (ou seulement 11 $ par mois si les traductions sont désactivées)

Conditions préalables

Vous devrez installer tous les prérequis sur votre ordinateur local :

1. Python 3.8 ou supérieur
2. Node.js et npm
3. Installez le kit d'outils AWS CDK (la commande cdk ) comme indiqué ici. Vous devrez également exécuter cdk bootstrap si vous n'avez jamais utilisé le CDK auparavant dans votre compte, comme indiqué ici.
4. L'AWS CLI
5. Docker est requis pour permettre au CDK de regrouper le code Lambda avec les dépendances Python nécessaires
6. Le projet devrait fonctionner dans n'importe quel environnement macOS, Linux ou Windows avec les prérequis ci-dessus, mais le projet a été testé sous macOS et Linux. Certaines commandes et scripts utilitaires supposent un environnement shell Bash.
7. Les Claude Instant, Stable Diffusion SDXL0.8 et AI21 Jurassic-2 Mid doivent être activés dans Bedrock comme documenté ici

REMARQUE : Docker doit être installé et exécuté . Vous pouvez vous assurer que le démon Docker est en cours d'exécution en vous assurant qu'une commande telle que docker ps s'exécute sans erreur. Si aucun conteneur n'est en cours d'exécution, alors docker ps devrait renvoyer une liste vide de conteneurs comme celle-ci :

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

Étapes de déploiement

1. Créez un environnement EC2 dans AWS Cloud9, lancez l'instance EC2 dans un sous-réseau public et notez son adresse IPv4 publique (#cloud9_ec2_ip).

2. Redimensionnez le volume EBS que l'environnement (créé à l'étape 1) utilise à au moins 20 Go. Il est livré par défaut avec 10 Go pour t2.micro.

3. Clonez le dépôt :

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd dans le dossier du dépôt :

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (Facultatif) créez un nouveau virtualenv Python pour les dépendances spécifiques au projet :

    python -m venv .env && source .env/bin/activate
   

6. Installez les dépendances du CDK :

    pip install -r deployment/requirements.txt
   

7. Amorçage pour AWS CDK, si cela n'a pas été fait précédemment :

    cd deployment && cdk bootstrap
   

8. Déployez le backend :

    cd deployment && cdk deploy
   

9. revenez à la racine du projet :

    cd ..
   

10. Créez un utilisateur Cognito initial :

     deployment/create-user.sh <>
    

11. Mettez à jour config.js avec les valeurs appropriées des sorties de la pile CDK. Cela peut être fait automatiquement en exécutant

     deployment/update-config.sh
    

12. Installez les dépendances frontales :

     cd source/frontend && npm install
    

13. Exécutez l'exemple d'application client et notez le numéro de port (#web_port) que le webpack écoute, par exemple. 8080.

     npm start
    

14. Ouvrez les groupes de sécurité de l'EC2 créés à l'étape 1, ajoutez une règle entrante, qui autorise le TCP personnalisé, la plage de ports #web_port, la source « Mon IP », puis enregistrez les règles.

Validation du déploiement

Le déploiement devrait réussir si toutes les commandes ci-dessus se terminent sans erreur. Vous pouvez parcourir les ressources backend créées en accédant au service CloudFormation dans la console AWS, en recherchant la pile nommée LambdaStack et en parcourant ses ressources.

Exécution du guidage

Vous pouvez essayer l'application Web de démonstration en suivant ces étapes :

1. Vérifiez votre courrier électronique pour un mot de passe temporaire
2. Accédez à l'application depuis un navigateur local sur #cloud9_public_ip :#web_port
3. Suivez les invites pour vous connecter et modifier votre mot de passe
4. Pour créer une description de produit à partir d'une image (le mode par défaut), recherchez un fichier image pour un produit ou un objet.
5. Une fois téléchargé, une description du produit et des traductions en plusieurs langues seront générées

Prochaines étapes

Consultez la page produit Bedrock pour plus de ressources sur l'utilisation d'Amazon Bedrock.

Nettoyage

L'infrastructure provisionnée peut être supprimée en exécutant la commande suivante :

 cd deployment && cdk destroy

Considérations et limites supplémentaires

• Étant donné que ce projet transmet les images codées en base64 aux fonctions Lambda via la charge utile de l'événement, la taille totale d'entrée est limitée à 6 Mo, ce qui limite la taille des images d'entrée.
• L'intégration du proxy Lambda et API Gateway limite le temps de traitement à 29 secondes par appel, ce qui pourrait empêcher la génération de descriptions de produits plus volumineuses. Cette limitation pourrait être surmontée en utilisant des approches alternatives, telles que la diffusion en continu des réponses via les URL de fonction Lambda au lieu d'API Gateway.