langchain-aws-template
Dieses Paket enthält Codevorlagen zum Bereitstellen von mit LangChain erstellten LLM-Anwendungen in AWS. Die Vorlagen enthalten sowohl die Infrastruktur (CDK-Code) als auch den Anwendungscode zum Ausführen dieser Dienste. Derzeit sind die folgenden Vorlagen enthalten.
- Lambda-Dienst : Ein auf API Gateway + Lambda basierender REST-Dienst, der eine Verbindung zu jeder Front-End-Anwendung herstellen kann, um eine Chat-ähnliche Anfrage-Antwort-Anwendung zu erstellen. Zur Interaktion mit dem bereitgestellten Dienst ist eine Demo-Web-App enthalten.
- Slack Bot : Ein API Gateway + Lambda-basierter REST-Dienst, der Slack-Nachrichten verarbeiten kann, indem er eine LLM-Kette aufruft und eine Antwort an den Slack-Kanal sendet, in dem der Bot installiert ist.
Voraussetzungen
- nodejs 18+
- Python 3.9+
- aws-cdk-Toolkit (
npm install -g aws-cdk ) - Mit Anmeldeinformationen konfiguriertes AWS-Konto (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prerequisites)
- Der OpenAI-API-Schlüssel wird im Secrets Manager in Ihrem AWS-Konto gespeichert
- Der erwartete geheime Name ist
api-keys - Es wird erwartet, dass der openai-Schlüssel mit
openai-api-key -Schlüssel gespeichert wird
- conda (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
