langchain-aws-템플릿
이 패키지에는 LangChain으로 구축된 LLM 애플리케이션을 AWS에 배포하기 위한 코드 템플릿이 포함되어 있습니다. 템플릿에는 이러한 서비스를 실행하기 위한 인프라(CDK 코드)와 애플리케이션 코드가 모두 포함되어 있습니다. 현재 다음 템플릿이 포함되어 있습니다.
- Lambda 서비스 : 요청-응답 애플리케이션과 같은 채팅을 생성하기 위해 모든 프런트 엔드 애플리케이션에 연결할 수 있는 API 게이트웨이 + Lambda 기반 REST 서비스입니다. 배포된 서비스와 상호 작용하기 위해 포함된 데모 웹 앱이 있습니다.
- Slack Bot : LLM 체인을 호출하여 Slack 메시지를 처리하고 봇이 설치된 Slack 채널에 응답을 보낼 수 있는 API Gateway + Lambda 기반 REST 서비스입니다.
전제 조건
- nodejs 18+
- 파이썬 3.9+
- aws-cdk 도구 키트(
npm install -g aws-cdk ) - 자격 증명으로 구성된 AWS 계정(https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prerequisites)
- AWS 계정의 Secrets Manager에 저장된 openai API 키
- 예상되는 비밀 이름은
api-keys 입니다. - openai 키는
openai-api-key 키와 함께 저장될 것으로 예상됩니다.
- 콘다(https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
