langchain-aws-template
このパッケージには、LangChain で構築された LLM アプリケーションを AWS にデプロイするためのコード テンプレートが含まれています。テンプレートには、これらのサービスを実行するためのインフラストラクチャ (CDK コード) とアプリケーション コードの両方が含まれています。現在、以下のテンプレートが含まれています。
- Lambda サービス: API ゲートウェイ + Lambda ベースの REST サービス。任意のフロントエンド アプリケーションに接続して、チャットのようなリクエスト/返信アプリケーションを作成できます。デプロイされたサービスと対話するためのデモ Web アプリが含まれています。
- Slack ボット: API Gateway + Lambda ベースの REST サービス。LLM チェーンを呼び出してスラック メッセージを処理し、ボットがインストールされているスラック チャネルに応答を送信できます。
前提条件
- ノードjs 18+
- Python 3.9以降
- aws-cdk ツールキット (
npm install -g aws-cdk ) - 認証情報を使用して設定された AWS アカウント (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prerequisites)
- AWS アカウントの Secrets Manager に保存された openai API キー
- 予期されるシークレット名は
api-keysです - openai キーは
openai-api-keyキーとともに保存されることが期待されます
- conda (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
