lambda gen ai endpoint blog

คำแนะนำทีละขั้นตอน - การเรียกโมเดลภาษาขนาดใหญ่พิเศษ Jurassic-2 (J2) ผ่านตำแหน่งข้อมูล AWS Lambda

วัตถุประสงค์ของคู่มือนี้

คู่มือนี้จัดทำขึ้นเพื่อใช้ร่วมกับบล็อก วิธีเข้าถึงโมเดลภาษาขนาดใหญ่ Jurassic-2 (J2) ผ่านทางตำแหน่งข้อมูล AWS Lambda

คู่มือการปรับใช้จะอธิบายขั้นตอนที่จำเป็นทั้งหมดเพื่อปรับใช้โซลูชันที่อ้างถึงในโพสต์บล็อก

ข้อกำหนดเบื้องต้น

ส่วนนี้จะครอบคลุมถึงข้อกำหนดเบื้องต้นใดๆ จำเป็นต้องดำเนินการแก้ไขปัญหา

บัญชี AI21 Labs

ในการใช้โมเดล Jurassic-2 คุณจะต้องมีคีย์ API จาก AI21 Labs

1. ลงทะเบียนเพื่อรับบัญชีฟรี
2. เข้าถึงคีย์ API ของคุณที่นี่

คุณจะต้องใช้คีย์ AI21 Labs API ในขั้นตอนที่ 2 เมื่อปรับใช้เทมเพลต CloudFormation

หมายเหตุ: คลิกลิงก์สำหรับแต่ละขั้นตอนเพื่อดูคู่มือการปรับใช้

ขั้นตอนที่ 1 - การปรับใช้เลเยอร์ AWS Lambda

ในส่วนนี้ เราจะอธิบายขั้นตอนทั้งหมดที่จำเป็นในการปรับใช้เลเยอร์ lambda ที่จำเป็นสำหรับฟังก์ชัน lambda เพื่อรวมไลบรารี Python SDK ของ AI21 Lab ไลบรารีนี้จำเป็นสำหรับฟังก์ชันแลมบ์ดาในการสื่อสารกับโมเดล Jurassic-2

ขั้นตอนที่ 2 - การปรับใช้เทมเพลต CloudFormation

ส่วนนี้จะอธิบายวิธีการปรับใช้เทมเพลต CloudFormation สำหรับโซลูชัน เทมเพลต CloudFormation จะรวบรวมทรัพยากรที่จำเป็นทั้งหมดเพื่อให้คุณใช้งานโซลูชันนี้ในสภาพแวดล้อมสาธิต

ขั้นตอนที่ 3 - การเพิ่มเลเยอร์ให้กับจุดสิ้นสุดแลมบ์ดา

ส่วนนี้จะแนะนำวิธีเพิ่มเลเยอร์ lambda ที่คุณสร้างในขั้นตอนที่ 1 ให้กับฟังก์ชัน lambda ที่สร้างขึ้นเมื่อคุณปรับใช้เทมเพลต CloudFormation ในขั้นตอนที่ 2

ขั้นตอนที่ 4 - การทดสอบ

ในส่วนนี้จะแนะนำวิธีทดสอบตำแหน่งข้อมูลแลมบ์ดาที่จะส่งคืนผลลัพธ์จาก Jurassic-2 LLM

ขั้นตอนที่ 5 - การล้างข้อมูล

ส่วนนี้ครอบคลุมถึงวิธีลบทรัพยากร AWS ทั้งหมดที่สร้างขึ้นเมื่อเราปรับใช้เทมเพลต CloudFormation