modelo langchain-aws
Este pacote contém modelos de código para implantar aplicativos LLM desenvolvidos com LangChain para AWS. Os modelos contêm a infraestrutura (código CDK) e o código do aplicativo para executar esses serviços. Atualmente, os seguintes modelos estão incluídos.
- Serviço Lambda : um serviço REST baseado em API Gateway + Lambda, que pode se conectar a qualquer aplicativo front-end para criar um aplicativo de bate-papo semelhante a solicitação-resposta. Há um aplicativo web de demonstração incluído para interagir com o serviço implantado.
- Slack Bot : um serviço REST baseado em API Gateway + Lambda, que pode processar mensagens slack chamando uma cadeia LLM e enviar resposta para o canal slack onde o bot está instalado.
Pré-requisitos
- nodejs 18+
- Python 3.9+
- kit de ferramentas aws-cdk (
npm install -g aws-cdk ) - Conta AWS configurada com credenciais (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prerequisites)
- chave de API openai salva no Secrets Manager em sua conta AWS
- O nome secreto esperado é
api-keys - Espera-se que a chave openai seja armazenada com a chave
openai-api-key
- conda (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
