plantilla-langchain-aws
Este paquete contiene plantillas de código para implementar aplicaciones LLM creadas con LangChain en AWS. Las plantillas contienen tanto la infraestructura (código CDK) como el código de la aplicación para ejecutar estos servicios. Actualmente, se incluyen las siguientes plantillas.
- Servicio Lambda : un servicio REST basado en API Gateway + Lambda, que puede conectarse a cualquier aplicación front-end para crear una aplicación de solicitud-respuesta similar a un chat. Se incluye una aplicación web de demostración para interactuar con el servicio implementado.
- Slack Bot : un servicio REST basado en API Gateway + Lambda, que puede procesar mensajes de slack llamando a una cadena LLM y enviando una respuesta al canal de slack donde está instalado el bot.
Requisitos previos
- nodejs 18+
- Pitón 3.9+
- kit de herramientas aws-cdk (
npm install -g aws-cdk
) - Cuenta de AWS configurada con credenciales (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prequires)
- Clave de API de openai guardada en Secrets Manager en su cuenta de AWS
- El nombre secreto esperado es
api-keys
- Se espera que la clave openai se almacene con la clave
openai-api-key
- conda (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)