Guía para generar descripciones de productos con Amazon Bedrock.

Generando descripciones de productos con Bedrock

Esta solución contiene un backend sin servidor y una aplicación front-end ReactJS que crea descripciones de productos a partir de imágenes e ingreso de texto, mejora y traduce descripciones de productos utilizando el nuevo servicio de IA generativa administrada, Amazon Bedrock.

Tabla de contenido

1. Descripción general
   • Costo
2. Requisitos previos
3. Pasos de implementación
4. Validación de implementación
5. Ejecutando la guía
6. Próximos pasos
7. Limpieza
8. Consideraciones y limitaciones adicionales

Descripción general

Las empresas minoristas suelen tener miles o millones de productos, todos los cuales requieren descripciones precisas y efectivas. Los minoristas suelen tener metadatos o imágenes existentes para estos productos que pueden proporcionarse como entradas para modelos generativos de IA para acelerar enormemente el proceso de creación de descripciones de productos.

1. El cliente envía una solicitud que incluye datos de entrada (ya sea una imagen del producto o una descripción básica del producto para mejorar) a la API REST de Amazon API Gateway.
2. Amazon API Gateway pasa la solicitud a AWS Lambda a través de una integración de proxy.
3. Cuando opera con entradas de imágenes de productos, AWS Lambda llama a Amazon Rekognition, que utiliza el aprendizaje automático para detectar objetos en la imagen. Las descripciones de los objetos detectados se pueden incluir en pasos posteriores para crear una descripción del producto.
4. AWS Lambda llama a modelos de lenguaje grandes (LLM) alojados en Amazon Bedrock, como los modelos de lenguaje Amazon Titan, para producir descripciones de productos. Los LLM pueden mejorar las descripciones de texto básicas existentes o generar nuevas descripciones basadas en los objetos detectados por Amazon Rekognition.
5. AWS Lambda pasa la respuesta a Amazon API Gateway.
6. Finalmente, Amazon API Gateway devuelve la respuesta HTTP al cliente.

Costo

Usted es responsable del costo de los servicios de AWS utilizados durante la ejecución de esta Guía. A partir de noviembre de 2023, el costo de ejecutar esta Guía con la configuración predeterminada en el este de EE. UU. (Norte de Virginia) es de aproximadamente $86 por mes para procesar 1000 productos cada mes.

Esta guía incluye los servicios de AWS Rekognition, Bedrock, Cognito, Lambda, API Gateway y CloudWatch con los siguientes costos:

• Reconocimiento: $0,001 por imagen (para el primer millón de imágenes)
• Bedrock: Depende del modelo. Claude Instant, por ejemplo, cuesta $ 0,00163 por 1000 tokens de entrada y $ 0,00551 por 1000 tokens de salida, y el modelo AI21 Jurassic cuesta $ 0,0125 por 1000 tokens de entrada/salida.
• Cognito: Gratis para hasta 50.000 usuarios (0,0055 dólares por usuario activo mensual a partir de entonces)
• API Gateway: 3,50 dólares por millón de solicitudes
• Lambda: 0,0000166667 USD por GB segundo o 0,0005 USD por invocación para esta guía, suponiendo una duración de 30 segundos en el peor de los casos.
• Registros de CloudWatch: $0,50 por GB recopilado, $0,03 por mes por GB almacenado

De manera conservadora (pecando en sobreestimar), usar esta solución para generar descripciones de productos basadas en imágenes de entrada 1000 veces al mes (incluida la generación de traducciones al español, alemán y francés) y asumir el peor de los casos de 30 segundos por invocación de función Lambda y 1000 tokens de entrada/salida para todas las llamadas a los modelos Claude Instant y Jurassic, los costos serían aproximadamente los siguientes:

• Reconocimiento: $0.001 por imagen * 1000 imágenes = $1.00
• Bedrock: $0.00163 + $0.00551 por llamada a Claude Instant * 1000 llamadas = $7.14 y $0.0125 * 2 por llamada a Jurassic * 1000 llamadas * 3 idiomas = $75
• Cognito: Gratis
• API Gateway: $3,50 por millón de invocaciones * 5000 invocaciones totales = $0,0175
• Lambda: 0,0005 USD por invocación * 5000 invocaciones totales = 2,50 USD
• Registros de CloudWatch: supongamos de forma conservadora que se recopila 1 GB, lo que costará aproximadamente 0,53 USD durante el primer mes.
• TOTAL: $86 por mes con 1000 usos por mes (o solo $11 por mes si las traducciones están deshabilitadas)

Requisitos previos

Deberá instalar todos los requisitos previos en su máquina local:

1. Python 3.8 o superior
2. Node.js y npm
3. Instale el kit de herramientas AWS CDK (el comando cdk ) como se documenta aquí. También necesitarás ejecutar cdk bootstrap si no has usado el CDK antes en tu cuenta como se explica aquí.
4. La CLI de AWS
5. Se requiere Docker para permitir que el CDK empaquete el código Lambda junto con las dependencias necesarias de Python.
6. El proyecto debería funcionar en cualquier entorno macOS, Linux o Windows con los requisitos previos anteriores, pero el proyecto se ha probado en macOS y Linux. Algunos comandos y scripts de utilidades asumen un entorno de shell Bash.
7. Claude Instant, Stable Diffusion SDXL0.8 y AI21 Jurassic-2 Mid deben estar habilitados en Bedrock como se documenta aquí

NOTA: Docker debe estar instalado y ejecutándose . Puede asegurarse de que el demonio Docker se esté ejecutando asegurándose de que un comando como docker ps se ejecute sin errores. Si no se están ejecutando contenedores, entonces docker ps debería devolver una lista vacía de contenedores como esta:

 CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

Pasos de implementación

1. Cree un entorno EC2 en AWS Cloud9, inicie la instancia EC2 en una subred pública y escriba su dirección IPv4 pública (#cloud9_ec2_ip).

2. Cambie el tamaño del volumen de EBS que utiliza el entorno (creado en el paso 1) a al menos 20 GB. Viene con 10 GB para t2.micro de forma predeterminada.

3. Clona el repositorio:

    git clone https://github.com/aws-solutions-library-samples/guidance-for-generating-product-descriptions-with-bedrock.git
   

4. cd a la carpeta del repositorio:

    cd guidance-for-generating-product-descriptions-with-bedrock
   

5. (Opcional) cree un nuevo entorno virtual de Python para dependencias específicas del proyecto:

    python -m venv .env && source .env/bin/activate
   

6. Instalar dependencias de CDK:

    pip install -r deployment/requirements.txt
   

7. Bootstrapping para AWS CDK, si no se ha realizado previamente:

    cd deployment && cdk bootstrap
   

8. Implementar el backend:

    cd deployment && cdk deploy
   

9. cd de regreso a la raíz del proyecto:

    cd ..
   

10. Cree un usuario inicial de Cognito:

     deployment/create-user.sh <>
    

11. Actualice config.js con los valores apropiados de las salidas de la pila CDK. Esto se puede hacer automáticamente ejecutando

     deployment/update-config.sh
    

12. Instalar dependencias de interfaz:

     cd source/frontend && npm install
    

13. Ejecute la aplicación cliente de muestra y escriba el número de puerto (#web_port) que escucha el paquete web, por ejemplo. 8080.

     npm start
    

14. Abra los grupos de seguridad del EC2 creados en el paso 1, agregue una regla de entrada que permita TCP personalizado, rango de puerto #web_port, fuente "Mi IP" y luego guarde las reglas.

Validación de implementación

La implementación debería ser exitosa si todos los comandos anteriores se completan sin errores. Puede explorar los recursos de backend creados navegando al servicio CloudFormation en la consola de AWS, buscando la pila denominada LambdaStack y explorando sus recursos.

Ejecutando la guía

Puede probar la aplicación web de demostración siguiendo estos pasos:

1. Revisa tu correo electrónico para obtener una contraseña temporal
2. Acceda a la aplicación desde un navegador local en #cloud9_public_ip:#web_port
3. Siga las indicaciones para iniciar sesión y cambiar su contraseña
4. Para crear una descripción de producto a partir de una imagen (el modo predeterminado), busque un archivo de imagen para algún producto u objeto.
5. Una vez subido, se generará una descripción del producto y traducciones a varios idiomas.

Próximos pasos

Consulte la página del producto Bedrock para obtener más recursos sobre el uso de Amazon Bedrock.

Limpieza

La infraestructura aprovisionada se puede eliminar ejecutando el siguiente comando:

 cd deployment && cdk destroy

Consideraciones y limitaciones adicionales

• Debido a que este proyecto pasa imágenes codificadas en base64 a funciones Lambda a través de la carga útil del evento, el tamaño total de entrada está limitado a 6 MB, lo que limita el tamaño de las imágenes de entrada.
• La integración del proxy Lambda y API Gateway limita el tiempo de procesamiento a 29 segundos por llamada, lo que podría evitar que se generen descripciones de productos más grandes. Esta limitación podría superarse utilizando enfoques alternativos, como la transmisión de respuestas a través de las URL de la función Lambda en lugar de API Gateway.