genai bedrock chatbot

Assistant de discussion GenAI sur AWS

Introduction

Cette application de démonstration Chat Assistant est centrée sur le développement d'un assistant de chat avancé utilisant Amazon Bedrock et la solution GenAI sans serveur d'AWS. La solution présente un assistant de discussion qui utilise les connaissances du guide du développeur Amazon SageMaker et de la tarification des instances SageMaker. Cet assistant de chat sert d'exemple de la puissance d'Amazon Bedrock dans le traitement et l'utilisation d'ensembles de données complexes, et de sa capacité à convertir le langage naturel en requêtes Amazon Athena. Il utilise des outils open source tels que LangChain et LLamaIndex pour améliorer ses capacités de traitement et de récupération de données. L'article met également en évidence l'intégration de diverses ressources AWS, notamment Amazon S3 pour le stockage, Amazon Kendra en tant que magasin de vecteurs pour prendre en charge la génération augmentée de récupération (RAG), AWS Glue pour la préparation des données, Amazon Athena pour des requêtes efficaces, Amazon Lambda pour l'informatique sans serveur, et Amazon ECS pour la gestion des conteneurs. Ces ressources permettent collectivement à Chat Assistant de récupérer et de gérer efficacement le contenu des documents et des bases de données, illustrant ainsi le potentiel d'Amazon Bedrock dans les applications Chat Assistant sophistiquées.

Déploiement

Veuillez vous référer à cet article APG pour connaître les étapes de déploiement détaillées : Développer des assistants avancés basés sur le chat génératif par IA en utilisant les invites RAG et ReAct.

Pour une solution d'assistant de chat utilisant Agents for Amazon Bedrock, veuillez consulter :

1. Article APG : Développer un assistant basé sur le chat entièrement automatisé en utilisant les agents et les bases de connaissances Amazon Bedrock
2. Dépôt Github : genai-bedrock-agent-chat-assistant

Conditions préalables

• Docker
• AWS CDK Toolkit 2.132.1+, installé, installé et configuré. Pour plus d'informations, consultez Démarrage avec AWS CDK dans la documentation AWS CDK.
• Python 3.11+, installé et configuré. Pour plus d'informations, consultez Guide du débutant/Téléchargement dans la documentation Python.
• Un compte AWS actif
• Un compte AWS démarré à l'aide d'AWS CDK dans us-east-1. La région AWS us-east-1 est requise pour l'accès aux modèles Amazon Bedrock Claude et Amazon Titan Embedding.
• Activez l'accès aux modèles d'intégration de Claude et Titan dans le service Bedrock.

Pile technologique cible

• Substrat amazonien
• AmazonECS
• Colle AWS
• AWS Lambda
• Amazone S3
• Amazone Kendra
• Amazone Athéna
• Équilibreur de charge élastique

Architecture cible

Code

Le référentiel de code contient les fichiers et dossiers suivants :

• dossier assets – Les différents actifs statiques tels que le diagramme d'architecture, l'ensemble de données public, etc. sont disponibles ici
• dossier code/lambda-container Le code Python exécuté dans la fonction Lambda
• dossier code/streamlit-app Le code Python exécuté en tant qu'image de conteneur dans ECS
• dossier tests – Les fichiers Python exécutés pour tester unitairement les constructions AWS CDK
• code/code_stack.py – Les fichiers Python de construction AWS CDK utilisés pour créer des ressources AWS
• app.py – Les fichiers Python de la pile AWS CDK utilisés pour déployer les ressources AWS dans le compte AWS cible
• requirements.txt – La liste de toutes les dépendances Python qui doivent être installées pour AWS CDK
• requirements-dev.txt – La liste de toutes les dépendances Python qui doivent être installées pour qu'AWS CDK puisse exécuter la suite de tests unitaires
• cdk.json – Le fichier d'entrée pour fournir les valeurs requises pour faire tourner les ressources

Remarque : Le code AWS CDK utilise des constructions L3 et des stratégies IAM gérées par AWS pour le déploiement de la solution.

Commandes utiles

• cdk ls répertorie toutes les piles de l'application
• cdk synth émet le modèle CloudFormation synthétisé
• cdk deploy déployez cette pile sur votre compte/région AWS par défaut
• cdk diff compare la pile déployée avec l'état actuel
• cdk docs ouvre la documentation CDK

Sécurité

Voir CONTRIBUTION pour plus d'informations.

Licence

Cette bibliothèque est sous licence MIT-0. Voir le fichier LICENCE.