genai bedrock chatbot

Assistente de bate-papo GenAI na AWS

Introdução

Este aplicativo de demonstração do Chat Assistant gira em torno do desenvolvimento de um Chat Assistant avançado usando Amazon Bedrock e a solução GenAI sem servidor da AWS. A solução demonstra um Chat Assistant que utiliza o conhecimento do Guia do desenvolvedor do Amazon SageMaker e da definição de preço de instâncias do SageMaker. Este Chat Assistant serve como um exemplo do poder do Amazon Bedrock no processamento e utilização de conjuntos de dados complexos e de sua capacidade de converter linguagem natural em consultas do Amazon Athena. Ele emprega ferramentas de código aberto como LangChain e LLamaIndex para aprimorar seus recursos de processamento e recuperação de dados. O artigo também destaca a integração de vários recursos da AWS, incluindo Amazon S3 para armazenamento, Amazon Kendra como armazenamento de vetores para suportar a geração aumentada de recuperação (RAG), AWS Glue para preparação de dados, Amazon Athena para consultas eficientes, Amazon Lambda para computação sem servidor, e Amazon ECS para gerenciamento de contêineres. Coletivamente, esses recursos permitem que o Chat Assistant recupere e gerencie com eficiência o conteúdo de documentos e bancos de dados, ilustrando o potencial do Amazon Bedrock em aplicativos sofisticados do Chat Assistant.

Implantação

Consulte este artigo do APG para obter etapas de implantação detalhadas: Desenvolva assistentes generativos avançados baseados em chat de IA usando solicitações RAG e ReAct.

Para obter uma solução de assistente de bate-papo usando Agents for Amazon Bedrock, consulte:

1. Artigo do APG: Desenvolva um assistente baseado em chat totalmente automatizado usando agentes e bases de conhecimento do Amazon Bedrock
2. Repositório Github: genai-bedrock-agent-chat-assistant

Pré-requisitos

• Docker
• AWS CDK Toolkit 2.132.1+, instalado, instalado e configurado. Para obter mais informações, consulte Conceitos básicos do AWS CDK na documentação do AWS CDK.
• Python 3.11+, instalado e configurado. Para obter mais informações, consulte Guia/Download para iniciantes na documentação do Python.
• Uma conta AWS ativa
• Uma conta da AWS inicializada usando o AWS CDK em us-east-1. A região us-east-1 da AWS é necessária para acesso aos modelos Amazon Bedrock Claude e Amazon Titan Embedding.
• Habilite o acesso ao modelo de incorporação de Claude e Titan no serviço Bedrock.

Pilha de tecnologia alvo

• Base Amazônica
• Amazon ECS
• Cola AWS
• AWS Lambda
• Amazon S3
• Amazona Kendra
• Amazon Atenas
• Balanceador de carga elástico

Arquitetura alvo

Código

O repositório de código contém os seguintes arquivos e pastas:

• pasta de assets – Os vários ativos estáticos, como diagrama de arquitetura, conjunto de dados público, etc., estão disponíveis aqui
• pasta code/lambda-container O código Python que é executado na função Lambda
• pasta code/streamlit-app O código Python que é executado como a imagem do contêiner no ECS
• pasta tests – Os arquivos Python que são executados para testar a unidade das construções do AWS CDK
• code/code_stack.py – Os arquivos Python de construção do AWS CDK usados ​​para criar recursos da AWS
• app.py – Os arquivos Python da pilha AWS CDK usados ​​para implantar recursos da AWS na conta AWS de destino
• requirements.txt – A lista de todas as dependências do Python que devem ser instaladas para o AWS CDK
• requirements-dev.txt – A lista de todas as dependências do Python que devem ser instaladas para que o AWS CDK execute o conjunto de testes de unidade
• cdk.json – O arquivo de entrada para fornecer os valores necessários para ativar recursos

Observação: o código AWS CDK usa construções L3 e políticas IAM gerenciadas pela AWS para implantar a solução.

Comandos úteis

• cdk ls lista todas as pilhas no aplicativo
• cdk synth emite o modelo CloudFormation sintetizado
• cdk deploy implanta esta pilha em sua conta/região padrão da AWS
• cdk diff compara a pilha implantada com o estado atual
• cdk docs abre documentação do CDK

Segurança

Consulte CONTRIBUINDO para obter mais informações.

Licença

Esta biblioteca está licenciada sob a licença MIT-0. Veja o arquivo LICENÇA.