generative ai cdk constructs samples
1.0.0
В этом репозитории представлены примеры, демонстрирующие создание собственных решений генеративного ИИ с помощью AWS Generative AI CDK Constructs.
| Вариант использования | Описание | Тип | Язык |
|---|---|---|---|
| Проводник документов | Этот образец предоставляет комплексный интерфейс, который позволяет пользователю импортировать документы в базу знаний, затем суммировать и задавать вопросы по этим документам. | Бэкэнд + Фронтенд | TypeScript для серверной части, Python для внешнего интерфейса (Streamlit) |
| Генерация контента | В этом образце представлен комплексный интерфейс, который позволяет пользователю создавать изображения из текста с помощью модели Amazon titan-image-generator-v1 или стабильности стабильной диффузии-xl. | Бэкэнд + Фронтенд | TypeScript для серверной части, Python для внешнего интерфейса (Streamlit) |
| Описание изображения | Этот пример предоставляет комплексный интерфейс, позволяющий пользователю создавать описательный текст для загруженных изображений. | Бэкэнд + Фронтенд | TypeScript для серверной части, Python для внешнего интерфейса (Streamlit) |
| Модель SageMaker JumpStart | В этом образце представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещена базовая модель Llama 2, разработанная Meta из Amazon JumpStart, и функция AWS Lambda для выполнения запросов вывода к этой конечной точке. | Бэкэнд | Машинопись |
| Модель SageMaker «Обнимающее лицо» | В этом образце представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещена модель (Mistral 7B) из Hugging Face, и функцию AWS Lambda для выполнения запросов на вывод к этой конечной точке. | Бэкэнд | Машинопись |
| Модель SageMaker Hugging Face на AWS Inferentia2 | В этом образце представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещена модель (Zephyr 7B) из Hugging Face, и функцию AWS Lambda для выполнения запросов на вывод к этой конечной точке. В этом примере в качестве аппаратного ускорителя используется Inferentia 2. | Бэкэнд | Машинопись |
| Пользовательская конечная точка SageMaker | В этом образце представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещена модель с артефактами, хранящимися в корзине Amazon Simple Storage Service (S3), и функцию AWS Lambda для выполнения запросов вывода к этой конечной точке. В этом примере в качестве аппаратного ускорителя используется Inferentia2. | Бэкэнд | Машинопись |
| Мультимодальная пользовательская конечная точка SageMaker | В этом примере представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещен llava-1.5-7b, с артефактами, хранящимися в корзине Amazon Simple Storage Service (S3), пользовательским сценарием вывода и функцией AWS Lambda для выполнения запросов вывода. эта конечная точка. | Бэкэнд | Машинопись |
| Изображение SageMaker в конечную точку видео | В этом образце представлен пример приложения, которое развертывает асинхронную конечную точку SageMaker, на которой размещается стабильное видео-диффузия-img2vid-xt-1-1, с артефактами, хранящимися в корзине Amazon Simple Storage Service (S3), пользовательским сценарием вывода и AWS Lambda. функция для запуска запросов на вывод к этой конечной точке. | Бэкэнд | Машинопись |
| LLM по SageMaker в GovCloud PDT | В этом образце представлен пример приложения, которое развертывает конечную точку SageMaker в режиме реального времени, на которой размещается Falcon-40b, в GovCloud PDT. | Бэкэнд | Машинопись |
| Агенты Amazon Bedrock | В этом образце представлен пример приложения, которое развертывает агент Amazon Bedrock и базу знаний, поддерживаемую бессерверной коллекцией OpenSearch и документами в S3. Он демонстрирует, как использовать конструкцию Amazon Bedrock CDK. | Бэкэнд | Машинопись |
| Образцы Python | Этот проект демонстрирует использование пакета «generative-ai-cdk-constructs» из индекса пакетов Python (PyPI). | Бэкэнд | Питон |
| Примеры .NET | В этом проекте демонстрируется использование пакета Cdklabs.GenerativeAiCdkConstructs из библиотеки nuget. | Бэкэнд | .СЕТЬ |
| Анализ соблюдения контракта | Этот проект автоматизирует анализ контрактов, разбивая их на пункты, определяя типы пунктов, оценивая соответствие правовым нормам клиента и оценивая общий риск контракта на основе количества соответствующих положений. Это достигается за счет рабочего процесса, в котором используются модели больших языков через Amazon Bedrock. | Бэкэнд + Фронтенд | Python для бэкэнда, TypeScript (React) для фронтенда |
| Текст в SQL | Образец приложения генеративного ИИ «Text To SQL» позволяет пользователям взаимодействовать с базами данных посредством запросов на естественном языке, устраняя необходимость в обширных знаниях SQL. Это приложение использует мощную модель Anthropic Claude 3, размещенную на Amazon Bedrock, для беспрепятственного перевода запросов на естественном языке в исполняемые операторы SQL. | Бэкэнд + Фронтенд | Python для бэкэнда, TypeScript (React) для фронтенда |
| Базовый загрузчик данных LlamaIndex | Пример приложения для генеративного ИИ «LlamaIndex Basic Data Loader» демонстрирует LlamaIndexDataLoader из пакета Generative AI CDK Constructs. Реализация по умолчанию использует загрузчик файлов или каталогов S3 и может быть расширена для других устройств чтения LlamaHub. Решение ожидает, что документы LlamaIndex выйдут на выходе S3, готовом для последующих потребительских генеративных решений искусственного интеллекта. | Бэкэнд | Питон |
Пожалуйста, обратитесь к документу CONTRIBUTING для получения дополнительной информации о вкладе в этот репозиторий.
