lambda gen ai endpoint blog

逐步指南 - 透過 AWS Lambda 終端節點呼叫 Jurassic-2 (J2) 超大型語言模型

本指南的目的

本指南是作為部落格如何透過 AWS Lambda 終端節點存取 Jurassic-2 (J2) 大語言模型的配套文件而建立的。

部署指南將引導您完成部署部落格文章中提到的解決方案所需的所有步驟。

先決條件

本節將涵蓋所有先決條件。需要運行解決方案。

AI21實驗室帳號

為了使用 Jurassic-2 模型，您需要 AI21 Labs 提供的 API 金鑰。

1. 註冊一個免費帳戶
2. 在此處存取您的 API 金鑰

部署 CloudFormation 範本時，您將在步驟 2 中需要 AI21 Labs API 金鑰。

注意：點擊每個步驟的連結即可查看部署指南

步驟 1 - 部署 AWS Lambda 層

本節我們將引導您完成部署 lambda 函數所需的 lambda 層以包含 AI21 Lab 的 Python SDK 函式庫所需的所有步驟。 lambda 函數需要此函式庫才能與 Jurassic-2 模型進行通訊。

第 2 步 - 部署 CloudFormation 模板

本部分將引導您了解如何為解決方案部署 CloudFormation 範本。 CloudFormation 範本將啟動您在示範環境中執行此解決方案所需的所有資源。

步驟 3 - 將圖層新增至 lambda 端點

本部分將引導您了解如何將您在步驟 1 中建立的 lambda 層新增至您在步驟 2 中部署 CloudFormation 範本時所建立的 lambda 函數。

第 4 步 - 測試

本節將引導您了解如何測試將從 Jurassic-2 LLM 傳回結果的 lambda 端點。

第 5 步 - 清理

本節介紹如何刪除部署 CloudFormation 範本時所建立的所有 AWS 資源。