genai bedrock chatbot

GenAI Chat Assistant на AWS

Введение

В этом демонстрационном приложении Chat Assistant основное внимание уделяется разработке расширенного Chat Assistant с использованием Amazon Bedrock и бессерверного решения GenAI от AWS. В решении демонстрируется Chat Assistant, который использует знания Руководства разработчика Amazon SageMaker и цены на экземпляры SageMaker. Этот Chat Assistant служит примером возможностей Amazon Bedrock в обработке и использовании сложных наборов данных, а также его способности преобразовывать естественный язык в запросы Amazon Athena. Он использует инструменты с открытым исходным кодом, такие как LangChain и LLamaIndex, для расширения возможностей обработки и поиска данных. В статье также освещается интеграция различных ресурсов AWS, включая Amazon S3 для хранения, Amazon Kendra в качестве векторного хранилища для поддержки расширенной генерации извлечения (RAG), AWS Glue для подготовки данных, Amazon Athena для эффективных запросов, Amazon Lambda для бессерверных вычислений. и Amazon ECS для управления контейнерами. В совокупности эти ресурсы позволяют Chat Assistant эффективно извлекать контент из документов и баз данных и управлять им, иллюстрируя потенциал Amazon Bedrock в сложных приложениях Chat Assistant.

Развертывание

Подробные инструкции по развертыванию см. в этой статье APG: Разработка расширенных помощников на основе чата с генеративным искусственным интеллектом с использованием подсказок RAG и ReAct.

Для решения чат-помощника с использованием агентов для Amazon Bedrock см.:

1. Статья APG: Разработка полностью автоматизированного чат-помощника с использованием агентов и баз знаний Amazon Bedrock
2. Github Repo: genai-bedrock-agent-chat-assistant

Предварительные условия

• Докер
• AWS CDK Toolkit 2.132.1+, установлен и настроен. Дополнительную информацию см. в разделе «Начало работы с AWS CDK» документации AWS CDK.
• Python 3.11+, установлен и настроен. Дополнительную информацию см. в разделе «Руководство для начинающих»/загрузка в документации Python.
• Активная учетная запись AWS
• Учетная запись AWS, загруженная с помощью AWS CDK в us-east-1. Регион AWS us-east-1 необходим для доступа к моделям Amazon Bedrock Claude и Amazon Titan Embedding.
• Включите доступ к модели внедрения Claude и Titan в сервисе Bedrock.

Целевой технологический стек

• Амазонка
• Amazon ECS
• Клей AWS
• AWS Лямбда
• Амазонка S3
• Амазонка Кендра
• Амазонка Афина
• Эластичный балансировщик нагрузки

Целевая архитектура

Код

Репозиторий кода содержит следующие файлы и папки:

• папка assets . Здесь доступны различные статические ресурсы, такие как архитектурная схема, общедоступный набор данных и т. д.
• Папка code/lambda-container код Python, который запускается в функции Lambda.
• папка code/streamlit-app код Python, который запускается как образ контейнера в ECS.
• папка tests — файлы Python, которые запускаются для модульного тестирования конструкций AWS CDK.
• code/code_stack.py — AWS CDK создает файлы Python, используемые для создания ресурсов AWS.
• app.py — файлы Python стека AWS CDK, используемые для развертывания ресурсов AWS в целевой учетной записи AWS.
• requirements.txt — список всех зависимостей Python, которые необходимо установить для AWS CDK.
• requirements-dev.txt — список всех зависимостей Python, которые необходимо установить, чтобы AWS CDK мог запускать набор модульных тестов.
• cdk.json — входной файл для предоставления значений, необходимых для увеличения количества ресурсов.

Примечание. Код AWS CDK использует конструкции L3 и политики IAM, управляемые AWS, для развертывания решения.

Полезные команды

• cdk ls выводит список всех стеков в приложении
• cdk synth генерирует синтезированный шаблон CloudFormation
• cdk deploy разверните этот стек в своей учетной записи/регионе AWS по умолчанию.
• cdk diff сравнить развернутый стек с текущим состоянием
• cdk docs открыть документацию CDK

Безопасность

Для получения дополнительной информации см. ВКЛАД.

Лицензия

Эта библиотека лицензируется по лицензии MIT-0. См. файл ЛИЦЕНЗИИ.