AWS LLM SageMaker

AWS-LLM-SageMaker

Este taller práctico para desarrolladores y creadores de soluciones presenta cómo aprovechar Foundation Models (FM) con Amazon SageMaker.

En esta práctica de laboratorio, le mostraremos algunos de los patrones de uso más populares de la IA generativa de nuestros clientes y ejemplos de tecnologías que utilizan GenAI para generar valor para sus organizaciones mejorando la productividad.
Esto se puede lograr aprovechando modelos fundamentales que lo ayudan a redactar correos electrónicos, resumir texto, responder preguntas, crear chatbots y crear imágenes.

Guía de materiales de práctica de implementación de AWS Samples Github

Este material de laboratorio se distribuye en AWS Samples Github. Los materiales de práctica actuales siempre están más actualizados que los materiales oficiales de muestras de AWS.

LLM - RAG: Opensearch con SageMaker Endpoint LLM Polyglot

• Tema: LLM - RAG: Opensearch con SageMaker Endpoint LLM Polyglot
• Enlace de reflexión: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/20_applications/04_rag_finance_opensearch_sllm_workshop
• Fecha de última reflexión: 2024.04.25

[Sintonizador] Ajuste fino de QLoRA

• Tema: [Sintonizador] Ajuste fino de QLoRA
• Enlace de reflexión: https://github.com/aws-samples/aws-ai-ml-workshop-kr/tree/master/genai/aws-gen-ai-kr/30_fine_tune/01-instruction-tuning-peft-qlora
• Fecha de última reflexión: 2024.04.18

LLM - RAG: Opensearch con SageMaker Endpoint LLM Ployglot

1. Implementación práctica de RAG (Retrieval-Augmented Generation) con Amazon SageMaker y Amazon Opensearch: RAG (Retrieval-Augmented Generation) es una arquitectura innovadora de PNL que combina la recuperación de información y la generación de texto. En este laboratorio práctico, aprenderá mediante un breve ejercicio práctico cómo RAG se integra con Amazon Opensearch para mejorar el proceso de búsqueda de bases de datos o documentos externos confiables. En esta práctica de laboratorio, obtendrá experiencia práctica en la implementación de estos patrones en SageMaker Endpoint y Amazon Openssearch mediante la incorporación de entrada de datos, SDK y software de código abierto como LangChain y FAISS.

[Sintonizador] Ajuste fino de QLoRA

• KULLM-Polyglot-12.8B

Nombres de archivos

• 1_prepare-dataset-alpaca-method.ipynb : prepara un conjunto de datos de entrenamiento a partir del conjunto de datos de instrucciones. Este método tokeniza cada muestra.
• 1_prepare-dataset-chunk-method.ipynb : prepara un conjunto de datos de entrenamiento a partir del conjunto de datos de instrucciones. Este método concatena todas las muestras y las divide según el tamaño del fragmento.
• 2_local-train-debug-lora.ipynb : depure con algunos datos de muestra en el entorno de desarrollo antes de actuar seriamente en instancias de capacitación. Si ya está familiarizado con el ajuste fino, omita esta práctica y continúe con 3_sm-train-lora.ipynb.
• 3_sm-train-lora.ipynb : realiza ajustes finos en instancias de entrenamiento de SageMaker.