generative ai cdk constructs samples

AWS Generative AI CDK 建構的範例應用程式

此儲存庫提供範例來示範如何使用 AWS Generative AI CDK Constructs 建立您自己的 Generative AI 解決方案。

入門

使用案例	描述	類型	語言
文件瀏覽器	此範例提供了端到端的體驗，允許使用者將文件提取到知識庫中，然後針對這些文件進行總結和提問。	後端+前端	TypeScript 用於後端，Python 用於前端 (Streamlit)
內容生成	此範例提供了端到端體驗，讓使用者可以使用 Amazon titan-image-generator-v1 或 stable-diffusion-xl 模型從文字產生圖像。	後端+前端	TypeScript 用於後端，Python 用於前端 (Streamlit)
圖片描述	此範例提供了端到端體驗，允許使用者為上傳的圖像生成描述性文字。	後端+前端	TypeScript 用於後端，Python 用於前端 (Streamlit)
SageMaker JumpStart 模型	此範例提供了一個範例應用程序，該應用程式部署了一個 SageMaker 即時終端節點，該節點託管由 Amazon JumpStart 的 Meta 開發的 Llama 2 基礎模型，以及針對該終端節點運行推理請求的 AWS Lambda 函數。	後端	打字稿
SageMaker 擁抱臉模型	此範例提供了一個範例應用程序，該應用程式部署託管來自 Hugging Face 的模型 (Mistral 7B) 的 SageMaker 即時終端節點，以及用於針對該終端節點運行推理請求的 AWS Lambda 函數。	後端	打字稿
AWS Inferentia2 上的 SageMaker 擁抱臉部模型	此範例提供了一個範例應用程序，該應用程式部署託管來自 Hugging Face 的模型 (Zephyr 7B) 的 SageMaker 即時終端節點，以及用於針對該終端節點運行推理請求的 AWS Lambda 函數。此範例使用 Inferentia 2 作為硬體加速器。	後端	打字稿
SageMaker 自訂端點	此範例提供了一個範例應用程序，該應用程式部署了一個SageMaker 即時終端節點，該終端節點託管一個模型，該模型包含儲存在Amazon Simple Storage Service (S3) 儲存桶中的構件，以及一個AWS Lambda 函數來針對該終端節點運行推理請求。此範例使用 Inferentia2 作為硬體加速器。	後端	打字稿
SageMaker 多模式自訂端點	此範例提供了一個範例應用程序，該應用程式部署託管llava-1.5-7b 的SageMaker 即時終端節點、儲存在Amazon Simple Storage Service (S3) 儲存桶中的構件、自訂推理腳本以及用於運行推理請求的AWS Lambda 函數那個端點。	後端	打字稿
SageMaker 影像到視訊端點	此範例提供了一個範例應用程序，該應用程式部署託管stable-video-diffusion-img2vid-xt-1-1 的SageMaker 非同步終端節點，並將工件儲存在Amazon Simple Storage Service (S3) 儲存桶中、自定義推理腳本和AWS Lambda函數針對該端點執行推理請求。	後端	打字稿
GovCloud PDT 中的 SageMaker 法學碩士	此範例提供了一個範例應用程序，該應用程式在 GovCloud PDT 上部署託管 Falcon-40b 的 SageMaker 即時端點。	後端	打字稿
亞馬遜基岩代理	此範例提供了一個範例應用程序，該應用程式部署由 OpenSearch 無伺服器集合和 S3 中的文件支援的 Amazon Bedrock 代理程式和知識庫。它示範如何使用 Amazon Bedrock CDK 建構。	後端	打字稿
Python 範例	該專案展示了 Python 套件索引 (PyPI) 中「generative-ai-cdk-constructs」套件的使用。	後端	Python
.NET 範例	該專案展示了 nuget 庫中「Cdklabs.GenerativeAiCdkConstructs」套件的使用。	後端	。
合約合規分析	該項目透過將合約拆分為條款、確定條款類型、根據客戶的法律準則評估合規性以及根據合規條款的數量評估整體合約風險來自動分析合約。這是透過利用 Amazon Bedrock 的大型語言模型的工作流程來實現的。	後端+前端	Python 用於後端，TypeScript (React) 用於前端
文字轉SQL	「Text To SQL」生成式 AI 範例應用程式解決方案使用戶能夠透過自然語言查詢與資料庫進行交互，無需豐富的 SQL 知識。該應用程式利用託管在 Amazon Bedrock 上的強大的 Anthropic Claude 3 模型，將自然語言查詢無縫轉換為可執行的 SQL 語句。	後端+前端	Python 用於後端，TypeScript (React) 用於前端
LlamaIndex 基本資料載入器	「LlamaIndex Basic Data Loader」生成式 AI 範例應用程式解決方案演示了生成式 AI CDK 構造包中的LlamaIndexDataLoader 。預設實作使用 S3 檔案或目錄載入器，並且可以針對其他 LlamaHub 讀取器進行擴充。此解決方案期望 LlamaIndex Documents 成為輸出 S3，為下游消費者產生 AI 解決方案做好準備。	後端	Python

貢獻

請參閱貢獻文檔，以了解有關對此儲存庫做出貢獻的更多詳細資訊。