genai bedrock chatbot

Asistente de chat GenAI en AWS

Introducción

Esta aplicación de demostración de Chat Assistant se centra en el desarrollo de un Chat Assistant avanzado utilizando Amazon Bedrock y la solución GenAI sin servidor de AWS. La solución demuestra un Asistente de chat que utiliza el conocimiento de la Guía para desarrolladores de Amazon SageMaker y los precios de las instancias de SageMaker. Este asistente de chat sirve como ejemplo del poder de Amazon Bedrock para procesar y utilizar conjuntos de datos complejos, y su capacidad para convertir el lenguaje natural en consultas de Amazon Athena. Emplea herramientas de código abierto como LangChain y LLamaIndex para mejorar sus capacidades de recuperación y procesamiento de datos. El artículo también destaca la integración de varios recursos de AWS, incluido Amazon S3 para almacenamiento, Amazon Kendra como almacén de vectores para admitir la generación aumentada de recuperación (RAG), AWS Glue para la preparación de datos, Amazon Athena para consultas eficientes, Amazon Lambda para informática sin servidor. y Amazon ECS para la gestión de contenedores. Estos recursos en conjunto permiten que Chat Assistant recupere y administre contenido de documentos y bases de datos de manera efectiva, lo que ilustra el potencial de Amazon Bedrock en aplicaciones sofisticadas de Chat Assistant.

Despliegue

Consulte este artículo de APG para conocer los pasos detallados de implementación: Desarrolle asistentes avanzados basados ​​en chat de IA generativa mediante el uso de indicaciones de RAG y ReAct.

Para obtener una solución de asistente de chat que utilice Agents for Amazon Bedrock, consulte:

1. Artículo de APG: Desarrolle un asistente basado en chat totalmente automatizado utilizando agentes y bases de conocimientos de Amazon Bedrock
2. Repositorio de Github: genai-bedrock-agent-chat-assistant

Requisitos previos

• Estibador
• AWS CDK Toolkit 2.132.1+, instalado, instalado y configurado. Para obtener más información, consulte Introducción a AWS CDK en la documentación de AWS CDK.
• Python 3.11+, instalado y configurado. Para obtener más información, consulte Guía para principiantes/Descarga en la documentación de Python.
• Una cuenta de AWS activa
• Una cuenta de AWS iniciada mediante AWS CDK en us-east-1. La región de AWS us-east-1 es necesaria para acceder a los modelos Amazon Bedrock Claude y Amazon Titan Embedding.
• Habilite el acceso al modelo de integración de Claude y Titan en el servicio Bedrock.

Pila de tecnología de destino

• Roca Amazónica
• Amazon ECS
• Pegamento AWS
• AWS Lambda
• amazon s3
• amazona kendra
• Atenea amazónica
• Balanceador de carga elástico

Arquitectura de destino

Código

El repositorio de código contiene los siguientes archivos y carpetas:

• carpeta de assets : los diversos activos estáticos, como el diagrama de arquitectura, el conjunto de datos públicos, etc., están disponibles aquí
• carpeta code/lambda-container el código Python que se ejecuta en la función Lambda
• carpeta code/streamlit-app el código Python que se ejecuta como imagen del contenedor en ECS
• Carpeta tests : los archivos de Python que se ejecutan para realizar pruebas unitarias de las construcciones de AWS CDK.
• code/code_stack.py : AWS CDK construye archivos Python utilizados para crear recursos de AWS
• app.py : los archivos Python de la pila de AWS CDK utilizados para implementar recursos de AWS en la cuenta de AWS de destino
• requirements.txt : la lista de todas las dependencias de Python que deben instalarse para AWS CDK
• requirements-dev.txt : la lista de todas las dependencias de Python que deben instalarse para que AWS CDK ejecute el conjunto de pruebas unitarias
• cdk.json : el archivo de entrada para proporcionar los valores necesarios para activar los recursos.

Nota: El código de AWS CDK utiliza construcciones L3 y políticas de IAM administradas por AWS para implementar la solución.

Comandos útiles

• cdk ls enumera todas las pilas en la aplicación
• cdk synth emite la plantilla de CloudFormation sintetizada
• cdk deploy implemente esta pila en su cuenta/región de AWS predeterminada
• cdk diff compara la pila implementada con el estado actual
• cdk docs abre la documentación de CDK

Seguridad

Consulte CONTRIBUCIÓN para obtener más información.

Licencia

Esta biblioteca tiene la licencia MIT-0. Ver el archivo de LICENCIA.