genai bedrock chatbot

AWS 上的 GenAI 聊天助手

介紹

這個示範聊天助理應用程式的核心是使用 Amazon Bedrock 和 AWS 的無伺服器 GenAI 解決方案開發高級聊天助理。此解決方案示範了一個利用 Amazon SageMaker 開發人員指南和 SageMaker 執行個體定價知識的聊天助理。此聊天助理是 Amazon Bedrock 在處理和利用複雜資料集方面的強大功能以及將自然語言轉換為 Amazon Athena 查詢的能力的一個範例。它採用LangChain和LLamaIndex等開源工具來增強其資料處理和檢索能力。本文還重點介紹了各種AWS 資源的集成，包括用於存儲的Amazon S3、作為支持檢索增強生成(RAG) 的矢量存儲的Amazon Kendra、用於數據準備的AWS Glue、用於高效查詢的Amazon Athena 、用於無伺服器運算的Amazon Lambda，以及用於容器管理的 Amazon ECS。這些資源共同使聊天助理能夠有效地檢索和管理文件和資料庫中的內容，展示了 Amazon Bedrock 在複雜的聊天助理應用程式中的潛力。

部署

請參閱這篇 APG 文章以了解詳細的部署步驟：使用 RAG 和 ReAct 提示開發基於聊天的高級生成式 AI 助理。

有關使用 Agents for Amazon Bedrock 的聊天助理解決方案，請參閱：

1. APG 文章：使用 Amazon Bedrock 代理和知識庫開發基於聊天的全自動助手
2. Github 儲存庫：genai-bedrock-agent-chat-assistant

先決條件

• 碼頭工人
• AWS CDK Toolkit 2.132.1+，已安裝並設定。有關更多信息，請參閱 AWS CDK 文件中的 AWS CDK 入門。
• Python 3.11+，已安裝並配置。有關更多信息，請參閱 Python 文件中的初學者指南/下載。
• 活躍的 AWS 帳戶
• 使用 us-east-1 中的 AWS CDK 引導的 AWS 帳戶。 Amazon Bedrock Claude 和 Amazon Titan Embedding 模型存取需要 us-east-1 AWS 區域。
• 在 Bedrock 服務中啟用 Claude 和 Titan 嵌入模型存取。

目標技術堆疊

• 亞馬遜基岩
• 亞馬遜ECS
• AWS膠水
• AWS Lambda
• 亞馬遜S3
• 亞馬遜肯德拉
• 亞馬遜雅典娜
• 彈性負載平衡器

目標架構

程式碼

程式碼儲存庫包含以下檔案和資料夾：

• assets資料夾 – 此處提供各種靜態資產，例如架構圖、公共資料集等
• code/lambda-container資料夾 – 在 Lambda 函數中執行的 Python 程式碼
• code/streamlit-app資料夾 – 在 ECS 中作為容器映像運行的 Python 程式碼
• tests資料夾 – 運行以對 AWS CDK 構造進行單元測試的 Python 文件
• code/code_stack.py – AWS CDK 建構用於建立 AWS 資源的 Python 文件
• app.py – 用於在目標 AWS 帳戶中部署 AWS 資源的 AWS CDK 堆疊 Python 文件
• requirements.txt – 必須為 AWS CDK 安裝的所有 Python 依賴項的列表
• requirements-dev.txt – AWS CDK 運行單元測試套件必須安裝的所有 Python 依賴項的列表
• cdk.json – 提供啟動資源所需值的輸入文件

注意： AWS CDK 程式碼使用 L3 建構和 AWS 託管 IAM 策略來部署解決方案。

有用的命令

• cdk ls列出應用程式中的所有堆疊
• cdk synth發出合成的 CloudFormation 模板
• cdk deploy將此堆疊部署到您的預設AWS帳戶/區域
• cdk diff將部署的堆疊與目前狀態進行比較
• cdk docs開啟 CDK 文檔

安全

請參閱貢獻以獲取更多資訊。

執照

該庫根據 MIT-0 許可證獲得許可。請參閱許可證文件。