langchain-aws-เทมเพลต
แพ็คเกจนี้ประกอบด้วยเทมเพลตโค้ดเพื่อปรับใช้แอปพลิเคชัน LLM ที่สร้างด้วย LangChain ไปยัง AWS เทมเพลตมีทั้งโครงสร้างพื้นฐาน (รหัส CDK) และรหัสแอปพลิเคชันเพื่อเรียกใช้บริการเหล่านี้ ปัจจุบันมีเทมเพลตดังต่อไปนี้รวมอยู่ด้วย
- บริการ Lambda : บริการ REST ที่ใช้ API Gateway + Lambda ซึ่งสามารถเชื่อมต่อกับแอปพลิเคชันส่วนหน้าใดๆ เพื่อสร้างแชท เช่น แอปพลิเคชันตอบกลับคำขอ มีเว็บแอปสาธิตรวมอยู่ด้วยเพื่อโต้ตอบกับบริการที่ปรับใช้
- Slack Bot : บริการ REST ที่ใช้ API Gateway + Lambda ซึ่งสามารถประมวลผลข้อความ slack ได้โดยการเรียกเครือข่าย LLM และส่งการตอบกลับไปยังช่องทาง slack ที่ติดตั้งบอทไว้
ข้อกำหนดเบื้องต้น
- nodejs 18+
- ไพธอน 3.9+
- ชุดเครื่องมือ aws-cdk (
npm install -g aws-cdk ) - บัญชี AWS ที่กำหนดค่าด้วยข้อมูลประจำตัว (https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_prerequisites)
- บันทึกคีย์ openai api ใน Secrets Manager ในบัญชี AWS ของคุณ
- ชื่อลับที่คาดหวังคือ
api-keys - คาดว่าคีย์ openai จะถูกจัดเก็บไว้พร้อมกับคีย์
openai-api-key
- คอนดา (https://conda.io/projects/conda/en/latest/user-guide/install/index.html)
