langchain-aws-模板
該軟體包包含用於將使用 LangChain 建置的 LLM 應用程式部署到 AWS 的程式碼範本。這些模板包含基礎設施(CDK 程式碼)和運行這些服務的應用程式程式碼。目前,包含以下模板。
- Lambda 服務:基於 API 閘道 + Lambda 的 REST 服務,可以連接到任何前端應用程式以建立類似聊天的請求-回覆應用程式。其中包含一個演示 Web 應用程序,用於與已部署的服務進行互動。
- Slack Bot :基於 API Gateway + Lambda 的 REST 服務,可以透過呼叫 LLM 鏈來處理 slack 訊息,並將回復傳送到安裝機器人的 slack 通道。
先決條件
- 節點js 18+
- Python 3.9+
- aws-cdk 工具包 (
npm install -g aws-cdk
) - 配置有憑證的 AWS 帳戶 (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_precessions)
- openai api 金鑰保存在您的 AWS 帳戶的 Secrets Manager 中
- 預期的秘密名稱是
api-keys
- openai 密鑰預計會與
openai-api-key
密鑰一起存儲
- conda(https://conda.io/projects/conda/en/latest/user-guide/install/index.html)