langchain-aws-шаблон
Этот пакет содержит шаблоны кода для развертывания приложений LLM, созданных с помощью LangChain, на AWS. Шаблоны содержат как инфраструктуру (код CDK), так и код приложения для запуска этих служб. На данный момент включены следующие шаблоны.
- Служба Lambda : служба REST на основе API Gateway + Lambda, которая может подключаться к любому внешнему приложению для создания чата, например приложения запроса-ответа. Для взаимодействия с развернутой службой включено демонстрационное веб-приложение.
- Slack Bot : служба REST на основе API Gateway + Lambda, которая может обрабатывать слабые сообщения, вызывая цепочку LLM, и отправлять ответ на слабый канал, где установлен бот.
Предварительные условия
- узел js 18+
- Питон 3.9+
- набор инструментов aws-cdk (
npm install -g aws-cdk ) - Учетная запись AWS настроена с учетными данными (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prequires)
- Ключ openai API сохранен в Secrets Manager в вашей учетной записи AWS.
- Ожидаемое секретное имя —
api-keys - Ожидается, что ключ openai будет храниться с ключом
openai-api-key
- Конда (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
