generative ai cdk constructs samples
1.0.0
Este repositorio proporciona ejemplos para demostrar cómo crear sus propias soluciones de IA generativa utilizando construcciones CDK de IA generativa de AWS.
Caso de uso | Descripción | Tipo | Idioma |
---|---|---|---|
Explorador de documentos | Este ejemplo proporciona una experiencia de un extremo a otro que permite al usuario ingerir documentos en una base de conocimientos y luego resumirlos y hacer preguntas sobre esos documentos. | Backend + Frontend | TypeScript para backend, Python para frontend (Streamlit) |
Generación de contenido | Este ejemplo proporciona una experiencia de un extremo a otro que permite al usuario generar imágenes a partir de texto utilizando Amazon titan-image-generator-v1 o el modelo de estabilidad stable-diffusion-xl. | Backend + Frontend | TypeScript para backend, Python para frontend (Streamlit) |
Descripción de la imagen | Este ejemplo proporciona una experiencia de un extremo a otro que permite al usuario generar texto descriptivo para las imágenes cargadas. | Backend + Frontend | TypeScript para backend, Python para frontend (Streamlit) |
Modelo JumpStart de SageMaker | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja un modelo básico Llama 2 desarrollado por Meta de Amazon JumpStart y una función AWS Lambda para ejecutar solicitudes de inferencia en ese punto final. | backend | Mecanografiado |
Modelo de cara abrazada de SageMaker | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja un modelo (Mistral 7B) de Hugging Face y una función AWS Lambda para ejecutar solicitudes de inferencia en ese punto final. | backend | Mecanografiado |
Modelo de cara abrazada de SageMaker en AWS Inferentia2 | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja un modelo (Zephyr 7B) de Hugging Face y una función AWS Lambda para ejecutar solicitudes de inferencia en ese punto final. Este ejemplo utiliza Inferentia 2 como acelerador de hardware. | backend | Mecanografiado |
Punto final personalizado de SageMaker | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja un modelo con artefactos almacenados en un depósito de Amazon Simple Storage Service (S3) y una función AWS Lambda para ejecutar solicitudes de inferencia en ese punto final. Este ejemplo utiliza Inferentia2 como acelerador de hardware. | backend | Mecanografiado |
Punto final personalizado multimodal de SageMaker | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja llava-1.5-7b, con artefactos almacenados en un depósito de Amazon Simple Storage Service (S3), un script de inferencia personalizado y una función AWS Lambda para ejecutar solicitudes de inferencia en ese punto final. | backend | Mecanografiado |
Imagen de SageMaker al punto final de vídeo | Este ejemplo proporciona una aplicación de muestra que implementa un punto final asíncrono de SageMaker que aloja stable-video-diffusion-img2vid-xt-1-1, con artefactos almacenados en un depósito de Amazon Simple Storage Service (S3), un script de inferencia personalizado y un AWS Lambda. función para ejecutar solicitudes de inferencia contra ese punto final. | backend | Mecanografiado |
LLM en SageMaker en GovCloud PDT | Este ejemplo proporciona una aplicación de muestra que implementa un punto final en tiempo real de SageMaker que aloja Falcon-40b en GovCloud PDT. | backend | Mecanografiado |
Agentes de Amazon Bedrock | Este ejemplo proporciona una aplicación de muestra que implementa un agente de Amazon Bedrock y una base de conocimientos respaldados por una colección OpenSearch Serverless y documentos en S3. Demuestra cómo utilizar la construcción CDK de Amazon Bedrock. | backend | Mecanografiado |
Muestras de Python | Este proyecto muestra la utilización del paquete 'generative-ai-cdk-constructs' del Python Package Index (PyPI). | backend | Pitón |
Ejemplos de .NET | Este proyecto muestra la utilización del paquete 'Cdklabs.GenerativeAiCdkConstructs' de la biblioteca nuget. | backend | .NETO |
Análisis de cumplimiento de contratos | Este proyecto automatiza el análisis de contratos dividiéndolos en cláusulas, determinando tipos de cláusulas, evaluando el cumplimiento con respecto a las pautas legales de un cliente y evaluando el riesgo general del contrato en función del número de cláusulas que cumplen. Esto se logra mediante un flujo de trabajo que aprovecha los modelos de lenguajes grandes a través de Amazon Bedrock. | Backend + Frontend | Python para backend, TypeScript (React) para frontend |
Texto a SQL | La solución de aplicación de muestra de IA generativa "Text To SQL" permite a los usuarios interactuar con bases de datos a través de consultas en lenguaje natural, eliminando la necesidad de conocimientos extensos de SQL. Esta aplicación aprovecha el potente modelo Anthropic Claude 3, alojado en Amazon Bedrock, para traducir consultas de lenguaje natural en declaraciones SQL ejecutables sin problemas. | Backend + Frontend | Python para backend, TypeScript (React) para frontend |
Cargador de datos básico LlamaIndex | La solución de aplicación de muestra de IA generativa "LlamaIndex Basic Data Loader" demuestra LlamaIndexDataLoader del paquete Generative AI CDK Constructs. La implementación predeterminada utiliza el cargador de archivos o directorios S3 y se puede extender a otros lectores LlamaHub. La solución espera que LlamaIndex Documents se convierta en un S3 de salida listo para soluciones de IA generativa de consumo posteriores. | backend | Pitón |
Consulte el documento CONTRIBUCIÓN para obtener más detalles sobre cómo contribuir a este repositorio.