lambda gen ai endpoint blog

Panduan Langkah demi Langkah - Memanggil Model Bahasa Ultra Besar Jurassic-2 (J2) melalui Titik Akhir AWS Lambda

Tujuan dari panduan ini

Panduan ini dibuat sebagai pendamping blog Cara mengakses model bahasa besar Jurassic-2 (J2) melalui titik akhir AWS Lambda.

Panduan penerapan akan memandu Anda melalui semua langkah yang diperlukan untuk menerapkan solusi yang dirujuk dalam postingan blog.

Prasyarat

Bagian ini akan mencakup semua prasyarat. diperlukan untuk menjalankan solusinya.

akun Lab AI21

Untuk menggunakan model Jurassic-2 Anda memerlukan kunci API dari AI21 Labs.

1. Daftar untuk mendapatkan akun gratis
2. Akses kunci API Anda di sini

Anda memerlukan kunci API AI21 Labs di Langkah 2 saat menerapkan template CloudFormation Anda.

Catatan: Klik tautan untuk setiap langkah untuk melihat panduan penerapan

Langkah 1 - Menerapkan lapisan AWS Lambda

Di bagian ini kami akan memandu Anda melalui semua langkah yang diperlukan untuk menerapkan lapisan lambda yang diperlukan agar fungsi lambda dapat menyertakan pustaka Python SDK di AI21 Lab. Pustaka ini diperlukan agar fungsi lambda dapat berkomunikasi dengan model Jurassic-2.

Langkah 2 - Menerapkan templat CloudFormation

Bagian ini akan memandu Anda tentang cara menyebarkan templat CloudFormation untuk solusinya. Templat CloudFormation akan menyediakan semua sumber daya yang diperlukan agar Anda dapat menjalankan solusi ini di lingkungan demo.

Langkah 3 - Menambahkan lapisan ke titik akhir lambda

Bagian ini akan memandu Anda tentang cara menambahkan lapisan lambda yang Anda buat di langkah 1 ke fungsi lambda yang dibuat saat Anda menyebarkan templat CloudFormation di langkah 2.

Langkah 4 - Pengujian

Bagian ini akan memandu Anda tentang cara menguji titik akhir lambda yang akan mengembalikan hasil dari Jurassic-2 LLM.

Langkah 5 - Pembersihan

Bagian ini membahas cara menghapus semua sumber daya AWS yang dibuat saat kami menerapkan templat CloudFormation.